]> git.openstreetmap.org Git - nominatim.git/blob - lib-php/SearchDescription.php
Merge pull request #2346 from lonvia/words-vs-tokens
[nominatim.git] / lib-php / SearchDescription.php
1 <?php
2
3 namespace Nominatim;
4
5 require_once(CONST_LibDir.'/SpecialSearchOperator.php');
6 require_once(CONST_LibDir.'/SearchContext.php');
7 require_once(CONST_LibDir.'/Result.php');
8
9 /**
10  * Description of a single interpretation of a search query.
11  */
12 class SearchDescription
13 {
14     /// Ranking how well the description fits the query.
15     private $iSearchRank = 0;
16     /// Country code of country the result must belong to.
17     private $sCountryCode = '';
18     /// List of word ids making up the name of the object.
19     private $aName = array();
20     /// True if the name is rare enough to force index use on name.
21     private $bRareName = false;
22     /// List of word ids making up the address of the object.
23     private $aAddress = array();
24     /// List of word ids that appear in the name but should be ignored.
25     private $aNameNonSearch = array();
26     /// List of word ids that appear in the address but should be ignored.
27     private $aAddressNonSearch = array();
28     /// Kind of search for special searches, see Nominatim::Operator.
29     private $iOperator = Operator::NONE;
30     /// Class of special feature to search for.
31     private $sClass = '';
32     /// Type of special feature to search for.
33     private $sType = '';
34     /// Housenumber of the object.
35     private $sHouseNumber = '';
36     /// Postcode for the object.
37     private $sPostcode = '';
38     /// Global search constraints.
39     private $oContext;
40
41     // Temporary values used while creating the search description.
42
43     /// Index of phrase currently processed.
44     private $iNamePhrase = -1;
45
46     /**
47      * Create an empty search description.
48      *
49      * @param object $oContext Global context to use. Will be inherited by
50      *                         all derived search objects.
51      */
52     public function __construct($oContext)
53     {
54         $this->oContext = $oContext;
55     }
56
57     /**
58      * Get current search rank.
59      *
60      * The higher the search rank the lower the likelihood that the
61      * search is a correct interpretation of the search query.
62      *
63      * @return integer Search rank.
64      */
65     public function getRank()
66     {
67         return $this->iSearchRank;
68     }
69
70     /**
71      * Make this search a POI search.
72      *
73      * In a POI search, objects are not (only) searched by their name
74      * but also by the primary OSM key/value pair (class and type in Nominatim).
75      *
76      * @param integer $iOperator Type of POI search
77      * @param string  $sClass    Class (or OSM tag key) of POI.
78      * @param string  $sType     Type (or OSM tag value) of POI.
79      *
80      * @return void
81      */
82     public function setPoiSearch($iOperator, $sClass, $sType)
83     {
84         $this->iOperator = $iOperator;
85         $this->sClass = $sClass;
86         $this->sType = $sType;
87     }
88
89     /**
90      * Check if any operator is set.
91      *
92      * @return bool True, if this is a special search operation.
93      */
94     public function hasOperator()
95     {
96         return $this->iOperator != Operator::NONE;
97     }
98
99     /**
100      * Extract key/value pairs from a query.
101      *
102      * Key/value pairs are recognised if they are of the form [<key>=<value>].
103      * If multiple terms of this kind are found then all terms are removed
104      * but only the first is used for search.
105      *
106      * @param string $sQuery Original query string.
107      *
108      * @return string The query string with the special search patterns removed.
109      */
110     public function extractKeyValuePairs($sQuery)
111     {
112         // Search for terms of kind [<key>=<value>].
113         preg_match_all(
114             '/\\[([\\w_]*)=([\\w_]*)\\]/',
115             $sQuery,
116             $aSpecialTermsRaw,
117             PREG_SET_ORDER
118         );
119
120         foreach ($aSpecialTermsRaw as $aTerm) {
121             $sQuery = str_replace($aTerm[0], ' ', $sQuery);
122             if (!$this->hasOperator()) {
123                 $this->setPoiSearch(Operator::TYPE, $aTerm[1], $aTerm[2]);
124             }
125         }
126
127         return $sQuery;
128     }
129
130     /**
131      * Check if the combination of parameters is sensible.
132      *
133      * @return bool True, if the search looks valid.
134      */
135     public function isValidSearch()
136     {
137         if (empty($this->aName)) {
138             if ($this->sHouseNumber) {
139                 return false;
140             }
141             if (!$this->sClass && !$this->sCountryCode) {
142                 return false;
143             }
144         }
145
146         return true;
147     }
148
149     /////////// Search building functions
150
151
152     /**
153      * Derive new searches by adding a full term to the existing search.
154      *
155      * @param object $oSearchTerm  Description of the token.
156      * @param bool   $bHasPartial  True if there are also tokens of partial terms
157      *                             with the same name.
158      * @param string $sPhraseType  Type of phrase the token is contained in.
159      * @param bool   $bFirstToken  True if the token is at the beginning of the
160      *                             query.
161      * @param bool   $bFirstPhrase True if the token is in the first phrase of
162      *                             the query.
163      * @param bool   $bLastToken   True if the token is at the end of the query.
164      *
165      * @return SearchDescription[] List of derived search descriptions.
166      */
167     public function extendWithFullTerm($oSearchTerm, $bHasPartial, $sPhraseType, $bFirstToken, $bFirstPhrase, $bLastToken)
168     {
169         $aNewSearches = array();
170
171         if (($sPhraseType == '' || $sPhraseType == 'country')
172             && is_a($oSearchTerm, '\Nominatim\Token\Country')
173         ) {
174             if (!$this->sCountryCode) {
175                 $oSearch = clone $this;
176                 $oSearch->iSearchRank++;
177                 $oSearch->sCountryCode = $oSearchTerm->sCountryCode;
178                 // Country is almost always at the end of the string
179                 // - increase score for finding it anywhere else (optimisation)
180                 if (!$bLastToken) {
181                     $oSearch->iSearchRank += 5;
182                     $oSearch->iNamePhrase = -1;
183                 }
184                 $aNewSearches[] = $oSearch;
185             }
186         } elseif (($sPhraseType == '' || $sPhraseType == 'postalcode')
187                   && is_a($oSearchTerm, '\Nominatim\Token\Postcode')
188         ) {
189             if (!$this->sPostcode) {
190                 // If we have structured search or this is the first term,
191                 // make the postcode the primary search element.
192                 if ($this->iOperator == Operator::NONE && $bFirstToken) {
193                     $oSearch = clone $this;
194                     $oSearch->iSearchRank++;
195                     $oSearch->iOperator = Operator::POSTCODE;
196                     $oSearch->aAddress = array_merge($this->aAddress, $this->aName);
197                     $oSearch->aName =
198                         array($oSearchTerm->iId => $oSearchTerm->sPostcode);
199                     $aNewSearches[] = $oSearch;
200                 }
201
202                 // If we have a structured search or this is not the first term,
203                 // add the postcode as an addendum.
204                 if ($this->iOperator != Operator::POSTCODE
205                     && ($sPhraseType == 'postalcode' || !empty($this->aName))
206                 ) {
207                     $oSearch = clone $this;
208                     $oSearch->iSearchRank++;
209                     $oSearch->iNamePhrase = -1;
210                     if (strlen($oSearchTerm->sPostcode) < 4) {
211                         $oSearch->iSearchRank += 4 - strlen($oSearchTerm->sPostcode);
212                     }
213                     $oSearch->sPostcode = $oSearchTerm->sPostcode;
214                     $aNewSearches[] = $oSearch;
215                 }
216             }
217         } elseif (($sPhraseType == '' || $sPhraseType == 'street')
218                  && is_a($oSearchTerm, '\Nominatim\Token\HouseNumber')
219         ) {
220             if (!$this->sHouseNumber && $this->iOperator != Operator::POSTCODE) {
221                 $oSearch = clone $this;
222                 $oSearch->iSearchRank++;
223                 $oSearch->iNamePhrase = -1;
224                 $oSearch->sHouseNumber = $oSearchTerm->sToken;
225                 if ($this->iOperator != Operator::NONE) {
226                     $oSearch->iSearchRank++;
227                 }
228                 // sanity check: if the housenumber is not mainly made
229                 // up of numbers, add a penalty
230                 if (preg_match('/\\d/', $oSearch->sHouseNumber) === 0
231                     || preg_match_all('/[^0-9]/', $oSearch->sHouseNumber, $aMatches) > 2) {
232                     $oSearch->iSearchRank++;
233                 }
234                 if (empty($oSearchTerm->iId)) {
235                     $oSearch->iSearchRank++;
236                 }
237                 // also must not appear in the middle of the address
238                 if (!empty($this->aAddress)
239                     || (!empty($this->aAddressNonSearch))
240                     || $this->sPostcode
241                 ) {
242                     $oSearch->iSearchRank++;
243                 }
244                 $aNewSearches[] = $oSearch;
245                 // Housenumbers may appear in the name when the place has its own
246                 // address terms.
247                 if ($oSearchTerm->iId !== null
248                     && ($this->iNamePhrase >= 0 || empty($this->aName))
249                     && empty($this->aAddress)
250                    ) {
251                     $oSearch = clone $this;
252                     $oSearch->iSearchRank++;
253                     $oSearch->aAddress = $this->aName;
254                     $oSearch->bRareName = false;
255                     $oSearch->aName = array($oSearchTerm->iId => $oSearchTerm->iId);
256                     $aNewSearches[] = $oSearch;
257                 }
258             }
259         } elseif ($sPhraseType == ''
260                   && is_a($oSearchTerm, '\Nominatim\Token\SpecialTerm')
261         ) {
262             if ($this->iOperator == Operator::NONE) {
263                 $oSearch = clone $this;
264                 $oSearch->iSearchRank += 2;
265                 $oSearch->iNamePhrase = -1;
266
267                 $iOp = $oSearchTerm->iOperator;
268                 if ($iOp == Operator::NONE) {
269                     if (!empty($this->aName) || $this->oContext->isBoundedSearch()) {
270                         $iOp = Operator::NAME;
271                     } else {
272                         $iOp = Operator::NEAR;
273                     }
274                     $oSearch->iSearchRank += 2;
275                 } elseif (!$bFirstToken && !$bLastToken) {
276                     $oSearch->iSearchRank += 2;
277                 }
278                 if ($this->sHouseNumber) {
279                     $oSearch->iSearchRank++;
280                 }
281
282                 $oSearch->setPoiSearch(
283                     $iOp,
284                     $oSearchTerm->sClass,
285                     $oSearchTerm->sType
286                 );
287                 $aNewSearches[] = $oSearch;
288             }
289         } elseif ($sPhraseType != 'country'
290                   && is_a($oSearchTerm, '\Nominatim\Token\Word')
291         ) {
292             $iWordID = $oSearchTerm->iId;
293             // Full words can only be a name if they appear at the beginning
294             // of the phrase. In structured search the name must forcably in
295             // the first phrase. In unstructured search it may be in a later
296             // phrase when the first phrase is a house number.
297             if (!empty($this->aName) || !($bFirstPhrase || $sPhraseType == '')) {
298                 if (($sPhraseType == '' || !$bFirstPhrase) && !$bHasPartial) {
299                     $oSearch = clone $this;
300                     $oSearch->iNamePhrase = -1;
301                     $oSearch->iSearchRank += 3 * $oSearchTerm->iTermCount;
302                     $oSearch->aAddress[$iWordID] = $iWordID;
303                     $aNewSearches[] = $oSearch;
304                 }
305             } elseif (empty($this->aNameNonSearch)) {
306                 $oSearch = clone $this;
307                 $oSearch->iSearchRank++;
308                 $oSearch->aName = array($iWordID => $iWordID);
309                 if (CONST_Search_NameOnlySearchFrequencyThreshold) {
310                     $oSearch->bRareName =
311                         $oSearchTerm->iSearchNameCount
312                           < CONST_Search_NameOnlySearchFrequencyThreshold;
313                 }
314                 $aNewSearches[] = $oSearch;
315             }
316         }
317
318         return $aNewSearches;
319     }
320
321     /**
322      * Derive new searches by adding a partial term to the existing search.
323      *
324      * @param string  $sToken             Term for the token.
325      * @param object  $oSearchTerm        Description of the token.
326      * @param bool    $bStructuredPhrases True if the search is structured.
327      * @param integer $iPhrase            Number of the phrase the token is in.
328      * @param array[] $aFullTokens        List of full term tokens with the
329      *                                    same name.
330      *
331      * @return SearchDescription[] List of derived search descriptions.
332      */
333     public function extendWithPartialTerm($sToken, $oSearchTerm, $bStructuredPhrases, $iPhrase, $aFullTokens)
334     {
335         // Only allow name terms.
336         if (!(is_a($oSearchTerm, '\Nominatim\Token\Word'))
337             || strpos($sToken, ' ') !== false
338         ) {
339             return array();
340         }
341
342         $aNewSearches = array();
343         $iWordID = $oSearchTerm->iId;
344
345         if ((!$bStructuredPhrases || $iPhrase > 0)
346             && (!empty($this->aName))
347         ) {
348             $oSearch = clone $this;
349             $oSearch->iSearchRank++;
350             if (preg_match('#^[0-9 ]+$#', $sToken)) {
351                 $oSearch->iSearchRank++;
352             }
353             if ($oSearchTerm->iSearchNameCount < CONST_Max_Word_Frequency) {
354                 $oSearch->aAddress[$iWordID] = $iWordID;
355             } else {
356                 $oSearch->aAddressNonSearch[$iWordID] = $iWordID;
357                 if (!empty($aFullTokens)) {
358                     $oSearch->iSearchRank++;
359                 }
360             }
361             $aNewSearches[] = $oSearch;
362         }
363
364         if ((!$this->sPostcode && !$this->aAddress && !$this->aAddressNonSearch)
365             && ((empty($this->aName) && empty($this->aNameNonSearch)) || $this->iNamePhrase == $iPhrase)
366         ) {
367             $oSearch = clone $this;
368             $oSearch->iSearchRank++;
369             if (empty($this->aName) && empty($this->aNameNonSearch)) {
370                 $oSearch->iSearchRank++;
371             }
372             if (preg_match('#^[0-9 ]+$#', $sToken)) {
373                 $oSearch->iSearchRank++;
374             }
375             if ($oSearchTerm->iSearchNameCount < CONST_Max_Word_Frequency) {
376                 if (empty($this->aName)
377                     && CONST_Search_NameOnlySearchFrequencyThreshold
378                 ) {
379                     $oSearch->bRareName =
380                         $oSearchTerm->iSearchNameCount
381                           < CONST_Search_NameOnlySearchFrequencyThreshold;
382                 } else {
383                     $oSearch->bRareName = false;
384                 }
385                 $oSearch->aName[$iWordID] = $iWordID;
386             } else {
387                 if (!empty($aFullTokens)) {
388                     $oSearch->iSearchRank++;
389                 }
390                 $oSearch->aNameNonSearch[$iWordID] = $iWordID;
391             }
392             $oSearch->iNamePhrase = $iPhrase;
393             $aNewSearches[] = $oSearch;
394         }
395
396         return $aNewSearches;
397     }
398
399     /////////// Query functions
400
401
402     /**
403      * Query database for places that match this search.
404      *
405      * @param object  $oDB      Nominatim::DB instance to use.
406      * @param integer $iMinRank Minimum address rank to restrict search to.
407      * @param integer $iMaxRank Maximum address rank to restrict search to.
408      * @param integer $iLimit   Maximum number of results.
409      *
410      * @return mixed[] An array with two fields: IDs contains the list of
411      *                 matching place IDs and houseNumber the houseNumber
412      *                 if appicable or -1 if not.
413      */
414     public function query(&$oDB, $iMinRank, $iMaxRank, $iLimit)
415     {
416         $aResults = array();
417         $iHousenumber = -1;
418
419         if ($this->sCountryCode
420             && empty($this->aName)
421             && !$this->iOperator
422             && !$this->sClass
423             && !$this->oContext->hasNearPoint()
424         ) {
425             // Just looking for a country - look it up
426             if (4 >= $iMinRank && 4 <= $iMaxRank) {
427                 $aResults = $this->queryCountry($oDB);
428             }
429         } elseif (empty($this->aName) && empty($this->aAddress)) {
430             // Neither name nor address? Then we must be
431             // looking for a POI in a geographic area.
432             if ($this->oContext->isBoundedSearch()) {
433                 $aResults = $this->queryNearbyPoi($oDB, $iLimit);
434             }
435         } elseif ($this->iOperator == Operator::POSTCODE) {
436             // looking for postcode
437             $aResults = $this->queryPostcode($oDB, $iLimit);
438         } else {
439             // Ordinary search:
440             // First search for places according to name and address.
441             $aResults = $this->queryNamedPlace(
442                 $oDB,
443                 $iMinRank,
444                 $iMaxRank,
445                 $iLimit
446             );
447
448             // Now search for housenumber, if housenumber provided. Can be zero.
449             if (($this->sHouseNumber || $this->sHouseNumber === '0') && !empty($aResults)) {
450                 // Downgrade the rank of the street results, they are missing
451                 // the housenumber.
452                 foreach ($aResults as $oRes) {
453                     if ($oRes->iAddressRank >= 26) {
454                         $oRes->iResultRank++;
455                     } else {
456                         $oRes->iResultRank += 2;
457                     }
458                 }
459
460                 $aHnResults = $this->queryHouseNumber($oDB, $aResults);
461
462                 if (!empty($aHnResults)) {
463                     foreach ($aHnResults as $oRes) {
464                         $aResults[$oRes->iId] = $oRes;
465                     }
466                 }
467             }
468
469             // finally get POIs if requested
470             if ($this->sClass && !empty($aResults)) {
471                 $aResults = $this->queryPoiByOperator($oDB, $aResults, $iLimit);
472             }
473         }
474
475         Debug::printDebugTable('Place IDs', $aResults);
476
477         if (!empty($aResults) && $this->sPostcode) {
478             $sPlaceIds = Result::joinIdsByTable($aResults, Result::TABLE_PLACEX);
479             if ($sPlaceIds) {
480                 $sSQL = 'SELECT place_id FROM placex';
481                 $sSQL .= ' WHERE place_id in ('.$sPlaceIds.')';
482                 $sSQL .= " AND postcode != '".$this->sPostcode."'";
483                 Debug::printSQL($sSQL);
484                 $aFilteredPlaceIDs = $oDB->getCol($sSQL);
485                 if ($aFilteredPlaceIDs) {
486                     foreach ($aFilteredPlaceIDs as $iPlaceId) {
487                         $aResults[$iPlaceId]->iResultRank++;
488                     }
489                 }
490             }
491         }
492
493         return $aResults;
494     }
495
496
497     private function queryCountry(&$oDB)
498     {
499         $sSQL = 'SELECT place_id FROM placex ';
500         $sSQL .= "WHERE country_code='".$this->sCountryCode."'";
501         $sSQL .= ' AND rank_search = 4';
502         if ($this->oContext->bViewboxBounded) {
503             $sSQL .= ' AND ST_Intersects('.$this->oContext->sqlViewboxSmall.', geometry)';
504         }
505         $sSQL .= ' ORDER BY st_area(geometry) DESC LIMIT 1';
506
507         Debug::printSQL($sSQL);
508
509         $iPlaceId = $oDB->getOne($sSQL);
510
511         $aResults = array();
512         if ($iPlaceId) {
513             $aResults[$iPlaceId] = new Result($iPlaceId);
514         }
515
516         return $aResults;
517     }
518
519     private function queryNearbyPoi(&$oDB, $iLimit)
520     {
521         if (!$this->sClass) {
522             return array();
523         }
524
525         $aDBResults = array();
526         $sPoiTable = $this->poiTable();
527
528         if ($oDB->tableExists($sPoiTable)) {
529             $sSQL = 'SELECT place_id FROM '.$sPoiTable.' ct';
530             if ($this->oContext->sqlCountryList) {
531                 $sSQL .= ' JOIN placex USING (place_id)';
532             }
533             if ($this->oContext->hasNearPoint()) {
534                 $sSQL .= ' WHERE '.$this->oContext->withinSQL('ct.centroid');
535             } elseif ($this->oContext->bViewboxBounded) {
536                 $sSQL .= ' WHERE ST_Contains('.$this->oContext->sqlViewboxSmall.', ct.centroid)';
537             }
538             if ($this->oContext->sqlCountryList) {
539                 $sSQL .= ' AND country_code in '.$this->oContext->sqlCountryList;
540             }
541             $sSQL .= $this->oContext->excludeSQL(' AND place_id');
542             if ($this->oContext->sqlViewboxCentre) {
543                 $sSQL .= ' ORDER BY ST_Distance(';
544                 $sSQL .= $this->oContext->sqlViewboxCentre.', ct.centroid) ASC';
545             } elseif ($this->oContext->hasNearPoint()) {
546                 $sSQL .= ' ORDER BY '.$this->oContext->distanceSQL('ct.centroid').' ASC';
547             }
548             $sSQL .= " LIMIT $iLimit";
549             Debug::printSQL($sSQL);
550             $aDBResults = $oDB->getCol($sSQL);
551         }
552
553         if ($this->oContext->hasNearPoint()) {
554             $sSQL = 'SELECT place_id FROM placex WHERE ';
555             $sSQL .= 'class = :class and type = :type';
556             $sSQL .= ' AND '.$this->oContext->withinSQL('geometry');
557             $sSQL .= ' AND linked_place_id is null';
558             if ($this->oContext->sqlCountryList) {
559                 $sSQL .= ' AND country_code in '.$this->oContext->sqlCountryList;
560             }
561             $sSQL .= ' ORDER BY '.$this->oContext->distanceSQL('centroid').' ASC';
562             $sSQL .= " LIMIT $iLimit";
563             Debug::printSQL($sSQL);
564             $aDBResults = $oDB->getCol(
565                 $sSQL,
566                 array(':class' => $this->sClass, ':type' => $this->sType)
567             );
568         }
569
570         $aResults = array();
571         foreach ($aDBResults as $iPlaceId) {
572             $aResults[$iPlaceId] = new Result($iPlaceId);
573         }
574
575         return $aResults;
576     }
577
578     private function queryPostcode(&$oDB, $iLimit)
579     {
580         $sSQL = 'SELECT p.place_id FROM location_postcode p ';
581
582         if (!empty($this->aAddress)) {
583             $sSQL .= ', search_name s ';
584             $sSQL .= 'WHERE s.place_id = p.parent_place_id ';
585             $sSQL .= 'AND array_cat(s.nameaddress_vector, s.name_vector)';
586             $sSQL .= '      @> '.$oDB->getArraySQL($this->aAddress).' AND ';
587         } else {
588             $sSQL .= 'WHERE ';
589         }
590
591         $sSQL .= "p.postcode = '".reset($this->aName)."'";
592         $sSQL .= $this->countryCodeSQL(' AND p.country_code');
593         if ($this->oContext->bViewboxBounded) {
594             $sSQL .= ' AND ST_Intersects('.$this->oContext->sqlViewboxSmall.', geometry)';
595         }
596         $sSQL .= $this->oContext->excludeSQL(' AND p.place_id');
597         $sSQL .= " LIMIT $iLimit";
598
599         Debug::printSQL($sSQL);
600
601         $aResults = array();
602         foreach ($oDB->getCol($sSQL) as $iPlaceId) {
603             $aResults[$iPlaceId] = new Result($iPlaceId, Result::TABLE_POSTCODE);
604         }
605
606         return $aResults;
607     }
608
609     private function queryNamedPlace(&$oDB, $iMinAddressRank, $iMaxAddressRank, $iLimit)
610     {
611         $aTerms = array();
612         $aOrder = array();
613
614         // Sort by existence of the requested house number but only if not
615         // too many results are expected for the street, i.e. if the result
616         // will be narrowed down by an address. Remeber that with ordering
617         // every single result has to be checked.
618         if ($this->sHouseNumber && ($this->bRareName || !empty($this->aAddress) || $this->sPostcode)) {
619             $sHouseNumberRegex = '\\\\m'.$this->sHouseNumber.'\\\\M';
620             $aOrder[] = ' (';
621             $aOrder[0] .= 'EXISTS(';
622             $aOrder[0] .= '  SELECT place_id';
623             $aOrder[0] .= '  FROM placex';
624             $aOrder[0] .= '  WHERE parent_place_id = search_name.place_id';
625             $aOrder[0] .= "    AND housenumber ~* E'".$sHouseNumberRegex."'";
626             $aOrder[0] .= '  LIMIT 1';
627             $aOrder[0] .= ') ';
628             // also housenumbers from interpolation lines table are needed
629             if (preg_match('/[0-9]+/', $this->sHouseNumber)) {
630                 $iHouseNumber = intval($this->sHouseNumber);
631                 $aOrder[0] .= 'OR EXISTS(';
632                 $aOrder[0] .= '  SELECT place_id ';
633                 $aOrder[0] .= '  FROM location_property_osmline ';
634                 $aOrder[0] .= '  WHERE parent_place_id = search_name.place_id';
635                 $aOrder[0] .= '    AND startnumber is not NULL';
636                 $aOrder[0] .= '    AND '.$iHouseNumber.'>=startnumber ';
637                 $aOrder[0] .= '    AND '.$iHouseNumber.'<=endnumber ';
638                 $aOrder[0] .= '  LIMIT 1';
639                 $aOrder[0] .= ')';
640             }
641             $aOrder[0] .= ') DESC';
642         }
643
644         if (!empty($this->aName)) {
645             $aTerms[] = 'name_vector @> '.$oDB->getArraySQL($this->aName);
646         }
647         if (!empty($this->aAddress)) {
648             // For infrequent name terms disable index usage for address
649             if ($this->bRareName) {
650                 $aTerms[] = 'array_cat(nameaddress_vector,ARRAY[]::integer[]) @> '.$oDB->getArraySQL($this->aAddress);
651             } else {
652                 $aTerms[] = 'nameaddress_vector @> '.$oDB->getArraySQL($this->aAddress);
653             }
654         }
655
656         $sCountryTerm = $this->countryCodeSQL('country_code');
657         if ($sCountryTerm) {
658             $aTerms[] = $sCountryTerm;
659         }
660
661         if ($this->sHouseNumber) {
662             $aTerms[] = 'address_rank between 16 and 30';
663         } elseif (!$this->sClass || $this->iOperator == Operator::NAME) {
664             if ($iMinAddressRank > 0) {
665                 $aTerms[] = "((address_rank between $iMinAddressRank and $iMaxAddressRank) or (search_rank between $iMinAddressRank and $iMaxAddressRank))";
666             }
667         }
668
669         if ($this->oContext->hasNearPoint()) {
670             $aTerms[] = $this->oContext->withinSQL('centroid');
671             $aOrder[] = $this->oContext->distanceSQL('centroid');
672         } elseif ($this->sPostcode) {
673             if (empty($this->aAddress)) {
674                 $aTerms[] = "EXISTS(SELECT place_id FROM location_postcode p WHERE p.postcode = '".$this->sPostcode."' AND ST_DWithin(search_name.centroid, p.geometry, 0.1))";
675             } else {
676                 $aOrder[] = "(SELECT min(ST_Distance(search_name.centroid, p.geometry)) FROM location_postcode p WHERE p.postcode = '".$this->sPostcode."')";
677             }
678         }
679
680         $sExcludeSQL = $this->oContext->excludeSQL('place_id');
681         if ($sExcludeSQL) {
682             $aTerms[] = $sExcludeSQL;
683         }
684
685         if ($this->oContext->bViewboxBounded) {
686             $aTerms[] = 'centroid && '.$this->oContext->sqlViewboxSmall;
687         }
688
689         if ($this->oContext->hasNearPoint()) {
690             $aOrder[] = $this->oContext->distanceSQL('centroid');
691         }
692
693         if ($this->sHouseNumber) {
694             $sImportanceSQL = '- abs(26 - address_rank) + 3';
695         } else {
696             $sImportanceSQL = '(CASE WHEN importance = 0 OR importance IS NULL THEN 0.75001-(search_rank::float/40) ELSE importance END)';
697         }
698         $sImportanceSQL .= $this->oContext->viewboxImportanceSQL('centroid');
699         $aOrder[] = "$sImportanceSQL DESC";
700
701         $aFullNameAddress = $this->oContext->getFullNameTerms();
702         if (!empty($aFullNameAddress)) {
703             $sExactMatchSQL = ' ( ';
704             $sExactMatchSQL .= ' SELECT count(*) FROM ( ';
705             $sExactMatchSQL .= '  SELECT unnest('.$oDB->getArraySQL($aFullNameAddress).')';
706             $sExactMatchSQL .= '    INTERSECT ';
707             $sExactMatchSQL .= '  SELECT unnest(nameaddress_vector)';
708             $sExactMatchSQL .= ' ) s';
709             $sExactMatchSQL .= ') as exactmatch';
710             $aOrder[] = 'exactmatch DESC';
711         } else {
712             $sExactMatchSQL = '0::int as exactmatch';
713         }
714
715         if ($this->sHouseNumber || $this->sClass) {
716             $iLimit = 40;
717         }
718
719         $aResults = array();
720
721         if (!empty($aTerms)) {
722             $sSQL = 'SELECT place_id, address_rank,'.$sExactMatchSQL;
723             $sSQL .= ' FROM search_name';
724             $sSQL .= ' WHERE '.join(' and ', $aTerms);
725             $sSQL .= ' ORDER BY '.join(', ', $aOrder);
726             $sSQL .= ' LIMIT '.$iLimit;
727
728             Debug::printSQL($sSQL);
729
730             $aDBResults = $oDB->getAll($sSQL, null, 'Could not get places for search terms.');
731
732             foreach ($aDBResults as $aResult) {
733                 $oResult = new Result($aResult['place_id']);
734                 $oResult->iExactMatches = $aResult['exactmatch'];
735                 $oResult->iAddressRank = $aResult['address_rank'];
736                 $aResults[$aResult['place_id']] = $oResult;
737             }
738         }
739
740         return $aResults;
741     }
742
743     private function queryHouseNumber(&$oDB, $aRoadPlaceIDs)
744     {
745         $aResults = array();
746         $sPlaceIDs = Result::joinIdsByTable($aRoadPlaceIDs, Result::TABLE_PLACEX);
747
748         if (!$sPlaceIDs) {
749             return $aResults;
750         }
751
752         $sHouseNumberRegex = '\\\\m'.$this->sHouseNumber.'\\\\M';
753         $sSQL = 'SELECT place_id FROM placex ';
754         $sSQL .= 'WHERE parent_place_id in ('.$sPlaceIDs.')';
755         $sSQL .= "  AND housenumber ~* E'".$sHouseNumberRegex."'";
756         $sSQL .= $this->oContext->excludeSQL(' AND place_id');
757
758         Debug::printSQL($sSQL);
759
760         // XXX should inherit the exactMatches from its parent
761         foreach ($oDB->getCol($sSQL) as $iPlaceId) {
762             $aResults[$iPlaceId] = new Result($iPlaceId);
763         }
764
765         $bIsIntHouseNumber= (bool) preg_match('/[0-9]+/', $this->sHouseNumber);
766         $iHousenumber = intval($this->sHouseNumber);
767         if ($bIsIntHouseNumber && empty($aResults)) {
768             // if nothing found, search in the interpolation line table
769             $sSQL = 'SELECT distinct place_id FROM location_property_osmline';
770             $sSQL .= ' WHERE startnumber is not NULL';
771             $sSQL .= '  AND parent_place_id in ('.$sPlaceIDs.') AND (';
772             if ($iHousenumber % 2 == 0) {
773                 // If housenumber is even, look for housenumber in streets
774                 // with interpolationtype even or all.
775                 $sSQL .= "interpolationtype='even'";
776             } else {
777                 // Else look for housenumber with interpolationtype odd or all.
778                 $sSQL .= "interpolationtype='odd'";
779             }
780             $sSQL .= " or interpolationtype='all') and ";
781             $sSQL .= $iHousenumber.'>=startnumber and ';
782             $sSQL .= $iHousenumber.'<=endnumber';
783             $sSQL .= $this->oContext->excludeSQL(' AND place_id');
784
785             Debug::printSQL($sSQL);
786
787             foreach ($oDB->getCol($sSQL) as $iPlaceId) {
788                 $oResult = new Result($iPlaceId, Result::TABLE_OSMLINE);
789                 $oResult->iHouseNumber = $iHousenumber;
790                 $aResults[$iPlaceId] = $oResult;
791             }
792         }
793
794         // If nothing found then search in Tiger data (location_property_tiger)
795         if (CONST_Use_US_Tiger_Data && $bIsIntHouseNumber && empty($aResults)) {
796             $sSQL = 'SELECT place_id FROM location_property_tiger';
797             $sSQL .= ' WHERE parent_place_id in ('.$sPlaceIDs.') and (';
798             if ($iHousenumber % 2 == 0) {
799                 $sSQL .= "interpolationtype='even'";
800             } else {
801                 $sSQL .= "interpolationtype='odd'";
802             }
803             $sSQL .= " or interpolationtype='all') and ";
804             $sSQL .= $iHousenumber.'>=startnumber and ';
805             $sSQL .= $iHousenumber.'<=endnumber';
806             $sSQL .= $this->oContext->excludeSQL(' AND place_id');
807
808             Debug::printSQL($sSQL);
809
810             foreach ($oDB->getCol($sSQL) as $iPlaceId) {
811                 $oResult = new Result($iPlaceId, Result::TABLE_TIGER);
812                 $oResult->iHouseNumber = $iHousenumber;
813                 $aResults[$iPlaceId] = $oResult;
814             }
815         }
816
817         return $aResults;
818     }
819
820
821     private function queryPoiByOperator(&$oDB, $aParentIDs, $iLimit)
822     {
823         $aResults = array();
824         $sPlaceIDs = Result::joinIdsByTable($aParentIDs, Result::TABLE_PLACEX);
825
826         if (!$sPlaceIDs) {
827             return $aResults;
828         }
829
830         if ($this->iOperator == Operator::TYPE || $this->iOperator == Operator::NAME) {
831             // If they were searching for a named class (i.e. 'Kings Head pub')
832             // then we might have an extra match
833             $sSQL = 'SELECT place_id FROM placex ';
834             $sSQL .= " WHERE place_id in ($sPlaceIDs)";
835             $sSQL .= "   AND class='".$this->sClass."' ";
836             $sSQL .= "   AND type='".$this->sType."'";
837             $sSQL .= '   AND linked_place_id is null';
838             $sSQL .= $this->oContext->excludeSQL(' AND place_id');
839             $sSQL .= ' ORDER BY rank_search ASC ';
840             $sSQL .= " LIMIT $iLimit";
841
842             Debug::printSQL($sSQL);
843
844             foreach ($oDB->getCol($sSQL) as $iPlaceId) {
845                 $aResults[$iPlaceId] = new Result($iPlaceId);
846             }
847         }
848
849         // NEAR and IN are handled the same
850         if ($this->iOperator == Operator::TYPE || $this->iOperator == Operator::NEAR) {
851             $sClassTable = $this->poiTable();
852             $bCacheTable = $oDB->tableExists($sClassTable);
853
854             $sSQL = "SELECT min(rank_search) FROM placex WHERE place_id in ($sPlaceIDs)";
855             Debug::printSQL($sSQL);
856             $iMaxRank = (int) $oDB->getOne($sSQL);
857
858             // For state / country level searches the normal radius search doesn't work very well
859             $sPlaceGeom = false;
860             if ($iMaxRank < 9 && $bCacheTable) {
861                 // Try and get a polygon to search in instead
862                 $sSQL = 'SELECT geometry FROM placex';
863                 $sSQL .= " WHERE place_id in ($sPlaceIDs)";
864                 $sSQL .= "   AND rank_search < $iMaxRank + 5";
865                 $sSQL .= "   AND ST_GeometryType(geometry) in ('ST_Polygon','ST_MultiPolygon')";
866                 $sSQL .= ' ORDER BY rank_search ASC ';
867                 $sSQL .= ' LIMIT 1';
868                 Debug::printSQL($sSQL);
869                 $sPlaceGeom = $oDB->getOne($sSQL);
870             }
871
872             if ($sPlaceGeom) {
873                 $sPlaceIDs = false;
874             } else {
875                 $iMaxRank += 5;
876                 $sSQL = 'SELECT place_id FROM placex';
877                 $sSQL .= " WHERE place_id in ($sPlaceIDs) and rank_search < $iMaxRank";
878                 Debug::printSQL($sSQL);
879                 $aPlaceIDs = $oDB->getCol($sSQL);
880                 $sPlaceIDs = join(',', $aPlaceIDs);
881             }
882
883             if ($sPlaceIDs || $sPlaceGeom) {
884                 $fRange = 0.01;
885                 if ($bCacheTable) {
886                     // More efficient - can make the range bigger
887                     $fRange = 0.05;
888
889                     $sOrderBySQL = '';
890                     if ($this->oContext->hasNearPoint()) {
891                         $sOrderBySQL = $this->oContext->distanceSQL('l.centroid');
892                     } elseif ($sPlaceIDs) {
893                         $sOrderBySQL = 'ST_Distance(l.centroid, f.geometry)';
894                     } elseif ($sPlaceGeom) {
895                         $sOrderBySQL = "ST_Distance(st_centroid('".$sPlaceGeom."'), l.centroid)";
896                     }
897
898                     $sSQL = 'SELECT distinct i.place_id';
899                     if ($sOrderBySQL) {
900                         $sSQL .= ', i.order_term';
901                     }
902                     $sSQL .= ' from (SELECT l.place_id';
903                     if ($sOrderBySQL) {
904                         $sSQL .= ','.$sOrderBySQL.' as order_term';
905                     }
906                     $sSQL .= ' from '.$sClassTable.' as l';
907
908                     if ($sPlaceIDs) {
909                         $sSQL .= ',placex as f WHERE ';
910                         $sSQL .= "f.place_id in ($sPlaceIDs) ";
911                         $sSQL .= " AND ST_DWithin(l.centroid, f.centroid, $fRange)";
912                     } elseif ($sPlaceGeom) {
913                         $sSQL .= " WHERE ST_Contains('$sPlaceGeom', l.centroid)";
914                     }
915
916                     $sSQL .= $this->oContext->excludeSQL(' AND l.place_id');
917                     $sSQL .= 'limit 300) i ';
918                     if ($sOrderBySQL) {
919                         $sSQL .= 'order by order_term asc';
920                     }
921                     $sSQL .= " limit $iLimit";
922
923                     Debug::printSQL($sSQL);
924
925                     foreach ($oDB->getCol($sSQL) as $iPlaceId) {
926                         $aResults[$iPlaceId] = new Result($iPlaceId);
927                     }
928                 } else {
929                     if ($this->oContext->hasNearPoint()) {
930                         $fRange = $this->oContext->nearRadius();
931                     }
932
933                     $sOrderBySQL = '';
934                     if ($this->oContext->hasNearPoint()) {
935                         $sOrderBySQL = $this->oContext->distanceSQL('l.geometry');
936                     } else {
937                         $sOrderBySQL = 'ST_Distance(l.geometry, f.geometry)';
938                     }
939
940                     $sSQL = 'SELECT distinct l.place_id';
941                     if ($sOrderBySQL) {
942                         $sSQL .= ','.$sOrderBySQL.' as orderterm';
943                     }
944                     $sSQL .= ' FROM placex as l, placex as f';
945                     $sSQL .= " WHERE f.place_id in ($sPlaceIDs)";
946                     $sSQL .= "  AND ST_DWithin(l.geometry, f.centroid, $fRange)";
947                     $sSQL .= "  AND l.class='".$this->sClass."'";
948                     $sSQL .= "  AND l.type='".$this->sType."'";
949                     $sSQL .= $this->oContext->excludeSQL(' AND l.place_id');
950                     if ($sOrderBySQL) {
951                         $sSQL .= 'ORDER BY orderterm ASC';
952                     }
953                     $sSQL .= " limit $iLimit";
954
955                     Debug::printSQL($sSQL);
956
957                     foreach ($oDB->getCol($sSQL) as $iPlaceId) {
958                         $aResults[$iPlaceId] = new Result($iPlaceId);
959                     }
960                 }
961             }
962         }
963
964         return $aResults;
965     }
966
967     private function poiTable()
968     {
969         return 'place_classtype_'.$this->sClass.'_'.$this->sType;
970     }
971
972     private function countryCodeSQL($sVar)
973     {
974         if ($this->sCountryCode) {
975             return $sVar.' = \''.$this->sCountryCode."'";
976         }
977         if ($this->oContext->sqlCountryList) {
978             return $sVar.' in '.$this->oContext->sqlCountryList;
979         }
980
981         return '';
982     }
983
984     /////////// Sort functions
985
986
987     public static function bySearchRank($a, $b)
988     {
989         if ($a->iSearchRank == $b->iSearchRank) {
990             return $a->iOperator + strlen($a->sHouseNumber)
991                      - $b->iOperator - strlen($b->sHouseNumber);
992         }
993
994         return $a->iSearchRank < $b->iSearchRank ? -1 : 1;
995     }
996
997     //////////// Debugging functions
998
999
1000     public function debugInfo()
1001     {
1002         return array(
1003                 'Search rank' => $this->iSearchRank,
1004                 'Country code' => $this->sCountryCode,
1005                 'Name terms' => $this->aName,
1006                 'Name terms (stop words)' => $this->aNameNonSearch,
1007                 'Address terms' => $this->aAddress,
1008                 'Address terms (stop words)' => $this->aAddressNonSearch,
1009                 'Address terms (full words)' => $this->aFullNameAddress ?? '',
1010                 'Special search' => $this->iOperator,
1011                 'Class' => $this->sClass,
1012                 'Type' => $this->sType,
1013                 'House number' => $this->sHouseNumber,
1014                 'Postcode' => $this->sPostcode
1015                );
1016     }
1017
1018     public function dumpAsHtmlTableRow(&$aWordIDs)
1019     {
1020         $kf = function ($k) use (&$aWordIDs) {
1021             return $aWordIDs[$k] ?? '['.$k.']';
1022         };
1023
1024         echo '<tr>';
1025         echo "<td>$this->iSearchRank</td>";
1026         echo '<td>'.join(', ', array_map($kf, $this->aName)).'</td>';
1027         echo '<td>'.join(', ', array_map($kf, $this->aNameNonSearch)).'</td>';
1028         echo '<td>'.join(', ', array_map($kf, $this->aAddress)).'</td>';
1029         echo '<td>'.join(', ', array_map($kf, $this->aAddressNonSearch)).'</td>';
1030         echo '<td>'.$this->sCountryCode.'</td>';
1031         echo '<td>'.Operator::toString($this->iOperator).'</td>';
1032         echo '<td>'.$this->sClass.'</td>';
1033         echo '<td>'.$this->sType.'</td>';
1034         echo '<td>'.$this->sPostcode.'</td>';
1035         echo '<td>'.$this->sHouseNumber.'</td>';
1036
1037         echo '</tr>';
1038     }
1039 }