utils/specialphrases.php

   1 #!/usr/bin/php -Cq
   2 <?php
   3
   4 require_once(dirname(dirname(__FILE__)).'/settings/settings.php');
   5 require_once(CONST_BasePath.'/lib/init-cmd.php');
   6 ini_set('memory_limit', '800M');
   7 ini_set('display_errors', 'stderr');
   8
   9 $aCMDOptions
  10 = array(
  11    'Import and export special phrases',
  12    array('help', 'h', 0, 1, 0, 0, false, 'Show Help'),
  13    array('quiet', 'q', 0, 1, 0, 0, 'bool', 'Quiet output'),
  14    array('verbose', 'v', 0, 1, 0, 0, 'bool', 'Verbose output'),
  15    array('wiki-import', '', 0, 1, 0, 0, 'bool', 'Create import script for search phrases '),
  16   );
  17 getCmdOpt($_SERVER['argv'], $aCMDOptions, $aCMDResult, true, true);
  18
  19 include(CONST_InstallPath.'/settings/phrase_settings.php');
  20
  21 if ($aCMDResult['wiki-import']) {
  22     $oNormalizer = Transliterator::createFromRules(CONST_Term_Normalization_Rules);
  23     $aPairs = array();
  24
  25     $sLanguageIn = CONST_Languages ? CONST_Languages :
  26         ('af,ar,br,ca,cs,de,en,es,et,eu,fa,fi,fr,gl,hr,hu,'.
  27          'ia,is,it,ja,mk,nl,no,pl,ps,pt,ru,sk,sl,sv,uk,vi');
  28
  29     foreach (explode(',', $sLanguageIn) as $sLanguage) {
  30         $sURL = 'https://wiki.openstreetmap.org/wiki/Special:Export/Nominatim/Special_Phrases/'.strtoupper($sLanguage);
  31         $sWikiPageXML = file_get_contents($sURL);
  32         if (preg_match_all('#\\| ([^|]+) \\|\\| ([^|]+) \\|\\| ([^|]+) \\|\\| ([^|]+) \\|\\| ([\\-YN])#', $sWikiPageXML, $aMatches, PREG_SET_ORDER)) {
  33             foreach ($aMatches as $aMatch) {
  34                 $sLabel = trim($aMatch[1]);
  35                 if ($oNormalizer !== null) {
  36                     $sTrans = pg_escape_string($oNormalizer->transliterate($sLabel));
  37                 } else {
  38                     $sTrans = null;
  39                 }
  40                 $sClass = trim($aMatch[2]);
  41                 $sType = trim($aMatch[3]);
  42                 // hack around a bug where building=yes was imported with
  43                 // quotes into the wiki
  44                 $sType = preg_replace('/&quot;/', '', $sType);
  45                 // sanity check, in case somebody added garbage in the wiki
  46                 if (preg_match('/^\\w+$/', $sClass) < 1
  47                     || preg_match('/^\\w+$/', $sType) < 1
  48                 ) {
  49                     trigger_error("Bad class/type for language $sLanguage: $sClass=$sType");
  50                     exit;
  51                 }
  52                 // blacklisting: disallow certain class/type combinations
  53                 if (isset($aTagsBlacklist[$sClass]) && in_array($sType, $aTagsBlacklist[$sClass])) {
  54                     // fwrite(STDERR, "Blacklisted: ".$sClass."/".$sType."\n");
  55                     continue;
  56                 }
  57                 // whitelisting: if class is in whitelist, allow only tags in the list
  58                 if (isset($aTagsWhitelist[$sClass]) && !in_array($sType, $aTagsWhitelist[$sClass])) {
  59                     // fwrite(STDERR, "Non-Whitelisted: ".$sClass."/".$sType."\n");
  60                     continue;
  61                 }
  62                 $aPairs[$sClass.'|'.$sType] = array($sClass, $sType);
  63
  64                 switch (trim($aMatch[4])) {
  65                     case 'near':
  66                         echo "select getorcreate_amenityoperator(make_standard_name('".pg_escape_string($sLabel)."'), '$sTrans', '$sClass', '$sType', 'near');\n";
  67                         break;
  68                     case 'in':
  69                         echo "select getorcreate_amenityoperator(make_standard_name('".pg_escape_string($sLabel)."'), '$sTrans', '$sClass', '$sType', 'in');\n";
  70                         break;
  71                     default:
  72                         echo "select getorcreate_amenity(make_standard_name('".pg_escape_string($sLabel)."'), '$sTrans', '$sClass', '$sType');\n";
  73                         break;
  74                 }
  75             }
  76         }
  77     }
  78
  79     echo 'create index idx_placex_classtype on placex (class, type);';
  80
  81     foreach ($aPairs as $aPair) {
  82         echo 'create table place_classtype_'.pg_escape_string($aPair[0]).'_'.pg_escape_string($aPair[1]);
  83         if (CONST_Tablespace_Aux_Data)
  84             echo ' tablespace '.CONST_Tablespace_Aux_Data;
  85         echo ' as select place_id as place_id,st_centroid(geometry) as centroid from placex where ';
  86         echo "class = '".pg_escape_string($aPair[0])."' and type = '".pg_escape_string($aPair[1])."'";
  87         echo ";\n";
  88
  89         echo 'CREATE INDEX idx_place_classtype_'.pg_escape_string($aPair[0]).'_'.pg_escape_string($aPair[1]).'_centroid ';
  90         echo 'ON place_classtype_'.pg_escape_string($aPair[0]).'_'.pg_escape_string($aPair[1]).' USING GIST (centroid)';
  91         if (CONST_Tablespace_Aux_Index)
  92             echo ' tablespace '.CONST_Tablespace_Aux_Index;
  93         echo ";\n";
  94
  95         echo 'CREATE INDEX idx_place_classtype_'.pg_escape_string($aPair[0]).'_'.pg_escape_string($aPair[1]).'_place_id ';
  96         echo 'ON place_classtype_'.pg_escape_string($aPair[0]).'_'.pg_escape_string($aPair[1]).' USING btree(place_id)';
  97         if (CONST_Tablespace_Aux_Index)
  98             echo ' tablespace '.CONST_Tablespace_Aux_Index;
  99         echo ";\n";
 100
 101         echo 'GRANT SELECT ON place_classtype_'.pg_escape_string($aPair[0]).'_'.pg_escape_string($aPair[1]).' TO "'.CONST_Database_Web_User."\";\n";
 102     }
 103
 104     echo 'drop index idx_placex_classtype;';
 105 }