sql/functions.sql

   1 --DROP TRIGGER IF EXISTS place_before_insert on placex;
   2 --DROP TRIGGER IF EXISTS place_before_update on placex;
   3 --CREATE TYPE addresscalculationtype AS (
   4 --  word text,
   5 --  score integer
   6 --);
   7
   8
   9 CREATE OR REPLACE FUNCTION getclasstypekey(c text, t text) RETURNS TEXT
  10   AS $$
  11 DECLARE
  12 BEGIN
  13   RETURN c||'|'||t;
  14 END;
  15 $$
  16 LANGUAGE plpgsql IMMUTABLE;
  17
  18 CREATE OR REPLACE FUNCTION isbrokengeometry(place geometry) RETURNS BOOLEAN
  19   AS $$
  20 DECLARE
  21   NEWgeometry geometry;
  22 BEGIN
  23   NEWgeometry := place;
  24   IF ST_IsEmpty(NEWgeometry) OR NOT ST_IsValid(NEWgeometry) OR ST_X(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') OR ST_Y(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') THEN
  25     RETURN true;
  26   END IF;
  27   RETURN false;
  28 END;
  29 $$
  30 LANGUAGE plpgsql IMMUTABLE;
  31
  32 CREATE OR REPLACE FUNCTION clean_geometry(place geometry) RETURNS geometry
  33   AS $$
  34 DECLARE
  35   NEWgeometry geometry;
  36 BEGIN
  37   NEWgeometry := place;
  38   IF ST_X(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') OR ST_Y(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') THEN
  39     NEWgeometry := ST_buffer(NEWgeometry,0);
  40     IF ST_X(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') OR ST_Y(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') THEN
  41       RETURN ST_SetSRID(ST_Point(0,0),4326);
  42     END IF;
  43   END IF;
  44   RETURN NEWgeometry;
  45 END;
  46 $$
  47 LANGUAGE plpgsql IMMUTABLE;
  48
  49 CREATE OR REPLACE FUNCTION geometry_sector(partition INTEGER, place geometry) RETURNS INTEGER
  50   AS $$
  51 DECLARE
  52   NEWgeometry geometry;
  53 BEGIN
  54 --  RAISE WARNING '%',place;
  55   NEWgeometry := ST_PointOnSurface(place);
  56 --  IF ST_IsEmpty(NEWgeometry) OR NOT ST_IsValid(NEWgeometry) OR ST_X(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') OR ST_Y(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') THEN
  57 --    NEWgeometry := ST_buffer(NEWgeometry,0);
  58 --    IF ST_IsEmpty(NEWgeometry) OR NOT ST_IsValid(NEWgeometry) OR ST_X(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') OR ST_Y(ST_Centroid(NEWgeometry))::text in ('NaN','Infinity','-Infinity') THEN
  59 --      RETURN 0;
  60 --    END IF;
  61 --  END IF;
  62   RETURN (partition*1000000) + (500-ST_X(NEWgeometry)::integer)*1000 + (500-ST_Y(NEWgeometry)::integer);
  63 END;
  64 $$
  65 LANGUAGE plpgsql IMMUTABLE;
  66
  67 CREATE OR REPLACE FUNCTION transliteration(text) RETURNS text
  68   AS '{modulepath}/nominatim.so', 'transliteration'
  69 LANGUAGE c IMMUTABLE STRICT;
  70
  71 CREATE OR REPLACE FUNCTION gettokenstring(text) RETURNS text
  72   AS '{modulepath}/nominatim.so', 'gettokenstring'
  73 LANGUAGE c IMMUTABLE STRICT;
  74
  75 CREATE OR REPLACE FUNCTION make_standard_name(name TEXT) RETURNS TEXT
  76   AS $$
  77 DECLARE
  78   o TEXT;
  79 BEGIN
  80   o := gettokenstring(transliteration(name));
  81   RETURN trim(substr(o,1,length(o)));
  82 END;
  83 $$
  84 LANGUAGE 'plpgsql' IMMUTABLE;
  85
  86 -- returns NULL if the word is too common
  87 CREATE OR REPLACE FUNCTION getorcreate_word_id(lookup_word TEXT)
  88   RETURNS INTEGER
  89   AS $$
  90 DECLARE
  91   lookup_token TEXT;
  92   return_word_id INTEGER;
  93   count INTEGER;
  94 BEGIN
  95   lookup_token := trim(lookup_word);
  96   SELECT min(word_id), max(search_name_count) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_id, count;
  97   IF return_word_id IS NULL THEN
  98     return_word_id := nextval('seq_word');
  99     INSERT INTO word VALUES (return_word_id, lookup_token, regexp_replace(lookup_token,E'([^0-9])\\1+',E'\\1','g'), null, null, null, null, 0, null);
 100   ELSE
 101     IF count > get_maxwordfreq() THEN
 102       return_word_id := NULL;
 103     END IF;
 104   END IF;
 105   RETURN return_word_id;
 106 END;
 107 $$
 108 LANGUAGE plpgsql;
 109
 110 CREATE OR REPLACE FUNCTION getorcreate_housenumber_id(lookup_word TEXT)
 111   RETURNS INTEGER
 112   AS $$
 113 DECLARE
 114   lookup_token TEXT;
 115   return_word_id INTEGER;
 116 BEGIN
 117   lookup_token := ' '||trim(lookup_word);
 118   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class='place' and type='house' into return_word_id;
 119   IF return_word_id IS NULL THEN
 120     return_word_id := nextval('seq_word');
 121     INSERT INTO word VALUES (return_word_id, lookup_token, null, null, 'place', 'house', null, 0, null);
 122   END IF;
 123   RETURN return_word_id;
 124 END;
 125 $$
 126 LANGUAGE plpgsql;
 127
 128 CREATE OR REPLACE FUNCTION getorcreate_country(lookup_word TEXT, lookup_country_code varchar(2))
 129   RETURNS INTEGER
 130   AS $$
 131 DECLARE
 132   lookup_token TEXT;
 133   return_word_id INTEGER;
 134 BEGIN
 135   lookup_token := ' '||trim(lookup_word);
 136   SELECT min(word_id) FROM word WHERE word_token = lookup_token and country_code=lookup_country_code into return_word_id;
 137   IF return_word_id IS NULL THEN
 138     return_word_id := nextval('seq_word');
 139     INSERT INTO word VALUES (return_word_id, lookup_token, null, null, null, null, lookup_country_code, 0, null);
 140   END IF;
 141   RETURN return_word_id;
 142 END;
 143 $$
 144 LANGUAGE plpgsql;
 145
 146 CREATE OR REPLACE FUNCTION getorcreate_amenity(lookup_word TEXT, lookup_class text, lookup_type text)
 147   RETURNS INTEGER
 148   AS $$
 149 DECLARE
 150   lookup_token TEXT;
 151   return_word_id INTEGER;
 152 BEGIN
 153   lookup_token := ' '||trim(lookup_word);
 154   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class=lookup_class and type = lookup_type into return_word_id;
 155   IF return_word_id IS NULL THEN
 156     return_word_id := nextval('seq_word');
 157     INSERT INTO word VALUES (return_word_id, lookup_token, null, null, lookup_class, lookup_type, null, 0, null);
 158   END IF;
 159   RETURN return_word_id;
 160 END;
 161 $$
 162 LANGUAGE plpgsql;
 163
 164 CREATE OR REPLACE FUNCTION getorcreate_tagpair(lookup_class text, lookup_type text)
 165   RETURNS INTEGER
 166   AS $$
 167 DECLARE
 168   lookup_token TEXT;
 169   return_word_id INTEGER;
 170 BEGIN
 171   lookup_token := lookup_class||'='||lookup_type;
 172   SELECT min(word_id) FROM word WHERE word_token = lookup_token into return_word_id;
 173   IF return_word_id IS NULL THEN
 174     return_word_id := nextval('seq_word');
 175     INSERT INTO word VALUES (return_word_id, lookup_token, null, null, null, null, null, 0, null);
 176   END IF;
 177   RETURN return_word_id;
 178 END;
 179 $$
 180 LANGUAGE plpgsql;
 181
 182 CREATE OR REPLACE FUNCTION get_tagpair(lookup_class text, lookup_type text)
 183   RETURNS INTEGER
 184   AS $$
 185 DECLARE
 186   lookup_token TEXT;
 187   return_word_id INTEGER;
 188 BEGIN
 189   lookup_token := lookup_class||'='||lookup_type;
 190   SELECT min(word_id) FROM word WHERE word_token = lookup_token into return_word_id;
 191   RETURN return_word_id;
 192 END;
 193 $$
 194 LANGUAGE plpgsql;
 195
 196 CREATE OR REPLACE FUNCTION getorcreate_amenityoperator(lookup_word TEXT, lookup_class text, lookup_type text, op text)
 197   RETURNS INTEGER
 198   AS $$
 199 DECLARE
 200   lookup_token TEXT;
 201   return_word_id INTEGER;
 202 BEGIN
 203   lookup_token := ' '||trim(lookup_word);
 204   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class=lookup_class and type = lookup_type and operator = op into return_word_id;
 205   IF return_word_id IS NULL THEN
 206     return_word_id := nextval('seq_word');
 207     INSERT INTO word VALUES (return_word_id, lookup_token, null, null, lookup_class, lookup_type, null, 0, op, null);
 208   END IF;
 209   RETURN return_word_id;
 210 END;
 211 $$
 212 LANGUAGE plpgsql;
 213
 214 CREATE OR REPLACE FUNCTION getorcreate_name_id(lookup_word TEXT, src_word TEXT)
 215   RETURNS INTEGER
 216   AS $$
 217 DECLARE
 218   lookup_token TEXT;
 219   nospace_lookup_token TEXT;
 220   return_word_id INTEGER;
 221 BEGIN
 222   lookup_token := ' '||trim(lookup_word);
 223   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_id;
 224   IF return_word_id IS NULL THEN
 225     return_word_id := nextval('seq_word');
 226     INSERT INTO word VALUES (return_word_id, lookup_token, regexp_replace(lookup_token,E'([^0-9])\\1+',E'\\1','g'), src_word, null, null, null, 0, null);
 227 --    nospace_lookup_token := replace(replace(lookup_token, '-',''), ' ','');
 228 --    IF ' '||nospace_lookup_token != lookup_token THEN
 229 --      INSERT INTO word VALUES (return_word_id, '-'||nospace_lookup_token, null, src_word, null, null, null, 0, null);
 230 --    END IF;
 231   END IF;
 232   RETURN return_word_id;
 233 END;
 234 $$
 235 LANGUAGE plpgsql;
 236
 237 CREATE OR REPLACE FUNCTION getorcreate_name_id(lookup_word TEXT)
 238   RETURNS INTEGER
 239   AS $$
 240 DECLARE
 241 BEGIN
 242   RETURN getorcreate_name_id(lookup_word, '');
 243 END;
 244 $$
 245 LANGUAGE plpgsql;
 246
 247 CREATE OR REPLACE FUNCTION get_word_id(lookup_word TEXT)
 248   RETURNS INTEGER
 249   AS $$
 250 DECLARE
 251   lookup_token TEXT;
 252   return_word_id INTEGER;
 253 BEGIN
 254   lookup_token := trim(lookup_word);
 255   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_id;
 256   RETURN return_word_id;
 257 END;
 258 $$
 259 LANGUAGE plpgsql IMMUTABLE;
 260
 261 CREATE OR REPLACE FUNCTION get_name_id(lookup_word TEXT)
 262   RETURNS INTEGER
 263   AS $$
 264 DECLARE
 265   lookup_token TEXT;
 266   return_word_id INTEGER;
 267 BEGIN
 268   lookup_token := ' '||trim(lookup_word);
 269   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_id;
 270   RETURN return_word_id;
 271 END;
 272 $$
 273 LANGUAGE plpgsql IMMUTABLE;
 274
 275 CREATE OR REPLACE FUNCTION array_merge(a INTEGER[], b INTEGER[])
 276   RETURNS INTEGER[]
 277   AS $$
 278 DECLARE
 279   i INTEGER;
 280   r INTEGER[];
 281 BEGIN
 282   IF array_upper(a, 1) IS NULL THEN
 283     RETURN b;
 284   END IF;
 285   IF array_upper(b, 1) IS NULL THEN
 286     RETURN a;
 287   END IF;
 288   r := a;
 289   FOR i IN 1..array_upper(b, 1) LOOP
 290     IF NOT (ARRAY[b[i]] <@ r) THEN
 291       r := r || b[i];
 292     END IF;
 293   END LOOP;
 294   RETURN r;
 295 END;
 296 $$
 297 LANGUAGE plpgsql IMMUTABLE;
 298
 299 CREATE OR REPLACE FUNCTION make_keywords(src HSTORE) RETURNS INTEGER[]
 300   AS $$
 301 DECLARE
 302   result INTEGER[];
 303   s TEXT;
 304   w INTEGER;
 305   words TEXT[];
 306   item RECORD;
 307   j INTEGER;
 308 BEGIN
 309   result := '{}'::INTEGER[];
 310
 311   FOR item IN SELECT (each(src)).* LOOP
 312
 313     s := make_standard_name(item.value);
 314
 315     w := getorcreate_name_id(s, item.value);
 316
 317     IF not(ARRAY[w] <@ result) THEN
 318       result := result || w;
 319     END IF;
 320
 321     words := string_to_array(s, ' ');
 322     IF array_upper(words, 1) IS NOT NULL THEN
 323       FOR j IN 1..array_upper(words, 1) LOOP
 324         IF (words[j] != '') THEN
 325           w = getorcreate_word_id(words[j]);
 326           IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
 327             result := result || w;
 328           END IF;
 329         END IF;
 330       END LOOP;
 331     END IF;
 332
 333     words := regexp_split_to_array(item.value, E'[,;()]');
 334     IF array_upper(words, 1) != 1 THEN
 335       FOR j IN 1..array_upper(words, 1) LOOP
 336         s := make_standard_name(words[j]);
 337         IF s != '' THEN
 338           w := getorcreate_word_id(s);
 339           IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
 340             result := result || w;
 341           END IF;
 342         END IF;
 343       END LOOP;
 344     END IF;
 345
 346     s := regexp_replace(item.value, '市$', '');
 347     IF s != item.value THEN
 348       s := make_standard_name(s);
 349       IF s != '' THEN
 350         w := getorcreate_name_id(s, item.value);
 351         IF NOT (ARRAY[w] <@ result) THEN
 352           result := result || w;
 353         END IF;
 354       END IF;
 355     END IF;
 356
 357   END LOOP;
 358
 359   RETURN result;
 360 END;
 361 $$
 362 LANGUAGE plpgsql IMMUTABLE;
 363
 364 CREATE OR REPLACE FUNCTION make_keywords(src TEXT) RETURNS INTEGER[]
 365   AS $$
 366 DECLARE
 367   result INTEGER[];
 368   s TEXT;
 369   w INTEGER;
 370   words TEXT[];
 371   i INTEGER;
 372   j INTEGER;
 373 BEGIN
 374   result := '{}'::INTEGER[];
 375
 376   s := make_standard_name(src);
 377   w := getorcreate_name_id(s, src);
 378
 379   IF NOT (ARRAY[w] <@ result) THEN
 380     result := result || w;
 381   END IF;
 382
 383   words := string_to_array(s, ' ');
 384   IF array_upper(words, 1) IS NOT NULL THEN
 385     FOR j IN 1..array_upper(words, 1) LOOP
 386       IF (words[j] != '') THEN
 387         w = getorcreate_word_id(words[j]);
 388         IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
 389           result := result || w;
 390         END IF;
 391       END IF;
 392     END LOOP;
 393   END IF;
 394
 395   words := regexp_split_to_array(src, E'[,;()]');
 396   IF array_upper(words, 1) != 1 THEN
 397     FOR j IN 1..array_upper(words, 1) LOOP
 398       s := make_standard_name(words[j]);
 399       IF s != '' THEN
 400         w := getorcreate_word_id(s);
 401         IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
 402           result := result || w;
 403         END IF;
 404       END IF;
 405     END LOOP;
 406   END IF;
 407
 408   s := regexp_replace(src, '市$', '');
 409   IF s != src THEN
 410     s := make_standard_name(s);
 411     IF s != '' THEN
 412       w := getorcreate_name_id(s, src);
 413       IF NOT (ARRAY[w] <@ result) THEN
 414         result := result || w;
 415       END IF;
 416     END IF;
 417   END IF;
 418
 419   RETURN result;
 420 END;
 421 $$
 422 LANGUAGE plpgsql IMMUTABLE;
 423
 424 CREATE OR REPLACE FUNCTION get_word_score(wordscores wordscore[], words text[]) RETURNS integer
 425   AS $$
 426 DECLARE
 427   idxword integer;
 428   idxscores integer;
 429   result integer;
 430 BEGIN
 431   IF (wordscores is null OR words is null) THEN
 432     RETURN 0;
 433   END IF;
 434
 435   result := 0;
 436   FOR idxword in 1 .. array_upper(words, 1) LOOP
 437     FOR idxscores in 1 .. array_upper(wordscores, 1) LOOP
 438       IF wordscores[idxscores].word = words[idxword] THEN
 439         result := result + wordscores[idxscores].score;
 440       END IF;
 441     END LOOP;
 442   END LOOP;
 443
 444   RETURN result;
 445 END;
 446 $$
 447 LANGUAGE plpgsql IMMUTABLE;
 448
 449 CREATE OR REPLACE FUNCTION get_country_code(place geometry) RETURNS TEXT
 450   AS $$
 451 DECLARE
 452   place_centre GEOMETRY;
 453   nearcountry RECORD;
 454 BEGIN
 455   place_centre := ST_PointOnSurface(place);
 456
 457 --DEBUG: RAISE WARNING 'get_country_code, start: %', ST_AsText(place_centre);
 458
 459 --DEBUG: RAISE WARNING 'osm fallback: %', ST_AsText(place_centre);
 460
 461   -- Try for OSM fallback data
 462   -- The order is to deal with places like HongKong that are 'states' within another polygon
 463   FOR nearcountry IN select country_code from country_osm_grid where st_covers(geometry, place_centre) order by area asc limit 1
 464   LOOP
 465     RETURN nearcountry.country_code;
 466   END LOOP;
 467
 468   -- Try for a OSM polygon
 469   FOR nearcountry IN select country_code from location_area_country where country_code is not null and not isguess and st_covers(geometry, place_centre) limit 1
 470   LOOP
 471     RETURN nearcountry.country_code;
 472   END LOOP;
 473
 474 --DEBUG: RAISE WARNING 'natural earth: %', ST_AsText(place_centre);
 475
 476   -- Natural earth data
 477   FOR nearcountry IN select country_code from country_naturalearthdata where st_covers(geometry, place_centre) limit 1
 478   LOOP
 479     RETURN nearcountry.country_code;
 480   END LOOP;
 481
 482 --DEBUG: RAISE WARNING 'near osm fallback: %', ST_AsText(place_centre);
 483
 484   --
 485   FOR nearcountry IN select country_code from country_osm_grid where st_dwithin(geometry, place_centre, 0.5) order by st_distance(geometry, place_centre) asc, area asc limit 1
 486   LOOP
 487     RETURN nearcountry.country_code;
 488   END LOOP;
 489
 490 --DEBUG: RAISE WARNING 'near natural earth: %', ST_AsText(place_centre);
 491
 492   -- Natural earth data
 493   FOR nearcountry IN select country_code from country_naturalearthdata where st_dwithin(geometry, place_centre, 0.5) limit 1
 494   LOOP
 495     RETURN nearcountry.country_code;
 496   END LOOP;
 497
 498   -- WorldBoundaries data (second fallback - think there might be something broken in this data)
 499 --  FOR nearcountry IN select country_code from country where st_covers(geometry, place_centre) limit 1
 500 --  LOOP
 501 --    RETURN nearcountry.country_code;
 502 --  END LOOP;
 503
 504 --RAISE WARNING 'near country: %', ST_AsText(place_centre);
 505
 506   -- Still not in a country - try nearest within ~12 miles of a country
 507 --  FOR nearcountry IN select country_code from country where st_distance(geometry, place_centre) < 0.5
 508 --    order by st_distance(geometry, place) limit 1
 509 --  LOOP
 510 --    RETURN nearcountry.country_code;
 511 --  END LOOP;
 512
 513   RETURN NULL;
 514 END;
 515 $$
 516 LANGUAGE plpgsql IMMUTABLE;
 517
 518 CREATE OR REPLACE FUNCTION get_country_code(place geometry, in_country_code VARCHAR(2)) RETURNS TEXT
 519   AS $$
 520 DECLARE
 521   nearcountry RECORD;
 522 BEGIN
 523   FOR nearcountry IN select country_code from country_name where country_code = lower(in_country_code)
 524   LOOP
 525     RETURN nearcountry.country_code;
 526   END LOOP;
 527   RETURN get_country_code(place);
 528 END;
 529 $$
 530 LANGUAGE plpgsql IMMUTABLE;
 531
 532 CREATE OR REPLACE FUNCTION get_country_language_code(search_country_code VARCHAR(2)) RETURNS TEXT
 533   AS $$
 534 DECLARE
 535   nearcountry RECORD;
 536 BEGIN
 537   FOR nearcountry IN select distinct country_default_language_code from country_name where country_code = search_country_code limit 1
 538   LOOP
 539     RETURN lower(nearcountry.country_default_language_code);
 540   END LOOP;
 541   RETURN NULL;
 542 END;
 543 $$
 544 LANGUAGE plpgsql IMMUTABLE;
 545
 546 CREATE OR REPLACE FUNCTION get_partition(place geometry, in_country_code VARCHAR(10)) RETURNS INTEGER
 547   AS $$
 548 DECLARE
 549   place_centre GEOMETRY;
 550   nearcountry RECORD;
 551 BEGIN
 552   FOR nearcountry IN select partition from country_name where country_code = in_country_code
 553   LOOP
 554     RETURN nearcountry.partition;
 555   END LOOP;
 556   RETURN 0;
 557 END;
 558 $$
 559 LANGUAGE plpgsql IMMUTABLE;
 560
 561 CREATE OR REPLACE FUNCTION delete_location(OLD_place_id BIGINT) RETURNS BOOLEAN
 562   AS $$
 563 DECLARE
 564 BEGIN
 565   DELETE FROM location_area where place_id = OLD_place_id;
 566 -- TODO:location_area
 567   RETURN true;
 568 END;
 569 $$
 570 LANGUAGE plpgsql;
 571
 572 CREATE OR REPLACE FUNCTION add_location(
 573     place_id BIGINT,
 574     country_code varchar(2),
 575     partition INTEGER,
 576     keywords INTEGER[],
 577     rank_search INTEGER,
 578     rank_address INTEGER,
 579     geometry GEOMETRY
 580   )
 581   RETURNS BOOLEAN
 582   AS $$
 583 DECLARE
 584   locationid INTEGER;
 585   isarea BOOLEAN;
 586   centroid GEOMETRY;
 587   diameter FLOAT;
 588   x BOOLEAN;
 589   splitGeom RECORD;
 590   secgeo GEOMETRY;
 591 BEGIN
 592
 593   IF rank_search > 25 THEN
 594     RAISE EXCEPTION 'Adding location with rank > 25 (% rank %)', place_id, rank_search;
 595   END IF;
 596
 597 --  RAISE WARNING 'Adding location with rank > 25 (% rank %)', place_id, rank_search;
 598
 599   x := deleteLocationArea(partition, place_id);
 600
 601   isarea := false;
 602   IF (ST_GeometryType(geometry) in ('ST_Polygon','ST_MultiPolygon') AND ST_IsValid(geometry)) THEN
 603
 604     isArea := true;
 605     centroid := ST_Centroid(geometry);
 606
 607     FOR secgeo IN select split_geometry(geometry) AS geom LOOP
 608       x := insertLocationAreaLarge(partition, place_id, country_code, keywords, rank_search, rank_address, false, centroid, secgeo);
 609     END LOOP;
 610
 611   ELSEIF rank_search < 26 THEN
 612
 613     diameter := 0.02;
 614     IF rank_address = 0 THEN
 615       diameter := 0.02;
 616     ELSEIF rank_search <= 14 THEN
 617       diameter := 1.2;
 618     ELSEIF rank_search <= 15 THEN
 619       diameter := 1;
 620     ELSEIF rank_search <= 16 THEN
 621       diameter := 0.5;
 622     ELSEIF rank_search <= 17 THEN
 623       diameter := 0.2;
 624     ELSEIF rank_search <= 21 THEN
 625       diameter := 0.05;
 626     ELSEIF rank_search = 25 THEN
 627       diameter := 0.005;
 628     END IF;
 629
 630 --    RAISE WARNING 'adding % diameter %', place_id, diameter;
 631
 632     secgeo := ST_Buffer(geometry, diameter);
 633     x := insertLocationAreaLarge(partition, place_id, country_code, keywords, rank_search, rank_address, true, ST_Centroid(geometry), secgeo);
 634
 635   ELSE
 636
 637     -- ~ 20meters
 638     secgeo := ST_Buffer(geometry, 0.0002);
 639     x := insertLocationAreaRoadNear(partition, place_id, country_code, keywords, rank_search, rank_address, true, ST_Centroid(geometry), secgeo);
 640
 641     -- ~ 100meters
 642     secgeo := ST_Buffer(geometry, 0.001);
 643     x := insertLocationAreaRoadFar(partition, place_id, country_code, keywords, rank_search, rank_address, true, ST_Centroid(geometry), secgeo);
 644
 645   END IF;
 646
 647   RETURN true;
 648 END;
 649 $$
 650 LANGUAGE plpgsql;
 651
 652 CREATE OR REPLACE FUNCTION update_location(
 653     partition INTEGER,
 654     place_id BIGINT,
 655     place_country_code varchar(2),
 656     name hstore,
 657     rank_search INTEGER,
 658     rank_address INTEGER,
 659     geometry GEOMETRY
 660   )
 661   RETURNS BOOLEAN
 662   AS $$
 663 DECLARE
 664   b BOOLEAN;
 665 BEGIN
 666   b := deleteLocationArea(partition, place_id);
 667 --  result := add_location(NEW.place_id, NEW.country_code, NEW.partition, name_vector, NEW.rank_search, NEW.rank_address, NEW.geometry);
 668   RETURN add_location(place_id, place_country_code, name, rank_search, rank_address, geometry);
 669 END;
 670 $$
 671 LANGUAGE plpgsql;
 672
 673 CREATE OR REPLACE FUNCTION search_name_add_words(parent_place_id BIGINT, to_add INTEGER[])
 674   RETURNS BOOLEAN
 675   AS $$
 676 DECLARE
 677   childplace RECORD;
 678 BEGIN
 679
 680   IF #to_add = 0 THEN
 681     RETURN true;
 682   END IF;
 683
 684   -- this should just be an update, but it seems to do insane things to the index size (delete and insert doesn't)
 685   FOR childplace IN select * from search_name,place_addressline
 686     where  address_place_id = parent_place_id
 687       and search_name.place_id = place_addressline.place_id
 688   LOOP
 689     delete from search_name where place_id = childplace.place_id;
 690     IF not (ARRAY[to_add] <@ childplace.nameaddress_vector) THEN
 691       childplace.nameaddress_vector := childplace.nameaddress_vector || to_add;
 692     END IF;
 693     IF childplace.place_id = parent_place_id and not (ARRAY[to_add] <@ childplace.name_vector) THEN
 694       childplace.name_vector := childplace.name_vector || to_add;
 695     END IF;
 696     insert into search_name (place_id, search_rank, address_rank, country_code, name_vector, nameaddress_vector, centroid)
 697       values (childplace.place_id, childplace.search_rank, childplace.address_rank, childplace.country_code,
 698         childplace.name_vector, childplace.nameaddress_vector, childplace.centroid);
 699   END LOOP;
 700
 701   RETURN true;
 702 END;
 703 $$
 704 LANGUAGE plpgsql;
 705
 706 CREATE OR REPLACE FUNCTION update_location_nameonly(partition INTEGER, OLD_place_id BIGINT, name hstore) RETURNS BOOLEAN
 707   AS $$
 708 DECLARE
 709   newkeywords INTEGER[];
 710   addedkeywords INTEGER[];
 711   removedkeywords INTEGER[];
 712 BEGIN
 713
 714   -- what has changed?
 715   newkeywords := make_keywords(name);
 716   select coalesce(newkeywords,'{}'::INTEGER[]) - coalesce(location_point.keywords,'{}'::INTEGER[]),
 717     coalesce(location_point.keywords,'{}'::INTEGER[]) - coalesce(newkeywords,'{}'::INTEGER[]) from location_point
 718     where place_id = OLD_place_id into addedkeywords, removedkeywords;
 719
 720 --  RAISE WARNING 'update_location_nameonly for %: new:% added:% removed:%', OLD_place_id, newkeywords, addedkeywords, removedkeywords;
 721
 722   IF #removedkeywords > 0 THEN
 723     -- abort due to tokens removed
 724     RETURN false;
 725   END IF;
 726
 727   IF #addedkeywords > 0 THEN
 728     -- short circuit - no changes
 729     RETURN true;
 730   END IF;
 731
 732   UPDATE location_area set keywords = newkeywords where place_id = OLD_place_id;
 733   RETURN search_name_add_words(OLD_place_id, addedkeywords);
 734 END;
 735 $$
 736 LANGUAGE plpgsql;
 737
 738
 739 CREATE OR REPLACE FUNCTION create_interpolation(wayid BIGINT, interpolationtype TEXT) RETURNS INTEGER
 740   AS $$
 741 DECLARE
 742
 743   newpoints INTEGER;
 744   waynodes integer[];
 745   nodeid INTEGER;
 746   prevnode RECORD;
 747   nextnode RECORD;
 748   startnumber INTEGER;
 749   endnumber INTEGER;
 750   stepsize INTEGER;
 751   orginalstartnumber INTEGER;
 752   originalnumberrange INTEGER;
 753   housenum INTEGER;
 754   linegeo GEOMETRY;
 755   search_place_id BIGINT;
 756   defpostalcode TEXT;
 757
 758   havefirstpoint BOOLEAN;
 759   linestr TEXT;
 760 BEGIN
 761   newpoints := 0;
 762   IF interpolationtype = 'odd' OR interpolationtype = 'even' OR interpolationtype = 'all' THEN
 763
 764     select postcode from placex where osm_type = 'W' and osm_id = wayid INTO defpostalcode;
 765     select nodes from planet_osm_ways where id = wayid INTO waynodes;
 766 --RAISE WARNING 'interpolation % % %',wayid,interpolationtype,waynodes;
 767     IF array_upper(waynodes, 1) IS NOT NULL THEN
 768
 769       havefirstpoint := false;
 770
 771       FOR nodeidpos in 1..array_upper(waynodes, 1) LOOP
 772
 773         select min(place_id) from placex where osm_type = 'N' and osm_id = waynodes[nodeidpos]::INTEGER and type = 'house' INTO search_place_id;
 774         IF search_place_id IS NULL THEN
 775           -- null record of right type
 776           select * from placex where osm_type = 'N' and osm_id = waynodes[nodeidpos]::INTEGER and type = 'house' limit 1 INTO nextnode;
 777           select ST_SetSRID(ST_Point(lon::float/10000000,lat::float/10000000),4326) from planet_osm_nodes where id = waynodes[nodeidpos] INTO nextnode.geometry;
 778           IF nextnode.geometry IS NULL THEN
 779             -- we don't have any information about this point, most likely
 780             -- because an excerpt was updated and the node never imported
 781             -- because the interpolation is outside the region of the excerpt.
 782             -- Give up.
 783             RETURN newpoints;
 784           END IF;
 785         ELSE
 786           select * from placex where place_id = search_place_id INTO nextnode;
 787         END IF;
 788
 789 --RAISE WARNING 'interpolation node % % % ',nextnode.housenumber,ST_X(nextnode.geometry),ST_Y(nextnode.geometry);
 790
 791         IF havefirstpoint THEN
 792
 793           -- add point to the line string
 794           linestr := linestr||','||ST_X(nextnode.geometry)||' '||ST_Y(nextnode.geometry);
 795           endnumber := ('0'||substring(nextnode.housenumber,'[0-9]+'))::integer;
 796
 797           IF startnumber IS NOT NULL and startnumber > 0 AND endnumber IS NOT NULL and endnumber > 0 AND @(startnumber - endnumber) < 1000 THEN
 798
 799 --RAISE WARNING 'interpolation end % % ',nextnode.place_id,endnumber;
 800
 801             IF startnumber != endnumber THEN
 802
 803               linestr := linestr || ')';
 804 --RAISE WARNING 'linestr %',linestr;
 805               linegeo := ST_GeomFromText(linestr,4326);
 806               linestr := 'LINESTRING('||ST_X(nextnode.geometry)||' '||ST_Y(nextnode.geometry);
 807               IF (startnumber > endnumber) THEN
 808                 housenum := endnumber;
 809                 endnumber := startnumber;
 810                 startnumber := housenum;
 811                 linegeo := ST_Reverse(linegeo);
 812               END IF;
 813               orginalstartnumber := startnumber;
 814               originalnumberrange := endnumber - startnumber;
 815
 816 -- Too much broken data worldwide for this test to be worth using
 817 --              IF originalnumberrange > 500 THEN
 818 --                RAISE WARNING 'Number block of % while processing % %', originalnumberrange, prevnode, nextnode;
 819 --              END IF;
 820
 821               IF (interpolationtype = 'odd' AND startnumber%2 = 0) OR (interpolationtype = 'even' AND startnumber%2 = 1) THEN
 822                 startnumber := startnumber + 1;
 823                 stepsize := 2;
 824               ELSE
 825                 IF (interpolationtype = 'odd' OR interpolationtype = 'even') THEN
 826                   startnumber := startnumber + 2;
 827                   stepsize := 2;
 828                 ELSE -- everything else assumed to be 'all'
 829                   startnumber := startnumber + 1;
 830                   stepsize := 1;
 831                 END IF;
 832               END IF;
 833               endnumber := endnumber - 1;
 834               delete from placex where osm_type = 'N' and osm_id = prevnode.osm_id and type = 'house' and place_id != prevnode.place_id;
 835               FOR housenum IN startnumber..endnumber BY stepsize LOOP
 836                 -- this should really copy postcodes but it puts a huge burdon on the system for no big benefit
 837                 -- ideally postcodes should move up to the way
 838                 insert into placex (osm_type, osm_id, class, type, admin_level, housenumber, street, isin, postcode,
 839                   country_code, parent_place_id, rank_address, rank_search, indexed_status, geometry)
 840                   values ('N',prevnode.osm_id, prevnode.class, prevnode.type, prevnode.admin_level, housenum, prevnode.street, prevnode.isin, coalesce(prevnode.postcode, defpostalcode),
 841                   prevnode.country_code, prevnode.parent_place_id, prevnode.rank_address, prevnode.rank_search, 1, ST_Line_Interpolate_Point(linegeo, (housenum::float-orginalstartnumber::float)/originalnumberrange::float));
 842                 newpoints := newpoints + 1;
 843 --RAISE WARNING 'interpolation number % % ',prevnode.place_id,housenum;
 844               END LOOP;
 845             END IF;
 846             havefirstpoint := false;
 847           END IF;
 848         END IF;
 849
 850         IF NOT havefirstpoint THEN
 851           startnumber := ('0'||substring(nextnode.housenumber,'[0-9]+'))::integer;
 852           IF startnumber IS NOT NULL AND startnumber > 0 THEN
 853             havefirstpoint := true;
 854             linestr := 'LINESTRING('||ST_X(nextnode.geometry)||' '||ST_Y(nextnode.geometry);
 855             prevnode := nextnode;
 856           END IF;
 857 --RAISE WARNING 'interpolation start % % ',nextnode.place_id,startnumber;
 858         END IF;
 859       END LOOP;
 860     END IF;
 861   END IF;
 862
 863 --RAISE WARNING 'interpolation points % ',newpoints;
 864
 865   RETURN newpoints;
 866 END;
 867 $$
 868 LANGUAGE plpgsql;
 869
 870 CREATE OR REPLACE FUNCTION placex_insert() RETURNS TRIGGER
 871   AS $$
 872 DECLARE
 873   i INTEGER;
 874   postcode TEXT;
 875   result BOOLEAN;
 876   country_code VARCHAR(2);
 877   default_language VARCHAR(10);
 878   diameter FLOAT;
 879   classtable TEXT;
 880 BEGIN
 881   --DEBUG: RAISE WARNING '% %',NEW.osm_type,NEW.osm_id;
 882
 883   -- just block these
 884   IF NEW.class = 'highway' and NEW.type in ('turning_circle','traffic_signals','mini_roundabout','noexit','crossing') THEN
 885 --    RAISE WARNING 'bad highway %',NEW.osm_id;
 886     RETURN null;
 887   END IF;
 888   IF NEW.class in ('landuse','natural') and NEW.name is null THEN
 889 --    RAISE WARNING 'empty landuse %',NEW.osm_id;
 890     RETURN null;
 891   END IF;
 892
 893   IF ST_IsEmpty(NEW.geometry) OR NOT ST_IsValid(NEW.geometry) OR ST_X(ST_Centroid(NEW.geometry))::text in ('NaN','Infinity','-Infinity') OR ST_Y(ST_Centroid(NEW.geometry))::text in ('NaN','Infinity','-Infinity') THEN
 894     -- block all invalid geometary - just not worth the risk.  seg faults are causing serious problems.
 895     RAISE WARNING 'invalid geometry %',NEW.osm_id;
 896     RETURN NULL;
 897
 898     -- Dead code
 899     IF NEW.osm_type = 'R' THEN
 900       -- invalid multipolygons can crash postgis, don't even bother to try!
 901       RETURN NULL;
 902     END IF;
 903     NEW.geometry := ST_buffer(NEW.geometry,0);
 904     IF ST_IsEmpty(NEW.geometry) OR NOT ST_IsValid(NEW.geometry) OR ST_X(ST_Centroid(NEW.geometry))::text in ('NaN','Infinity','-Infinity') OR ST_Y(ST_Centroid(NEW.geometry))::text in ('NaN','Infinity','-Infinity') THEN
 905       RAISE WARNING 'Invalid geometary, rejecting: % %', NEW.osm_type, NEW.osm_id;
 906       RETURN NULL;
 907     END IF;
 908   END IF;
 909
 910   --DEBUG: RAISE WARNING '% % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type;
 911
 912   NEW.place_id := nextval('seq_place');
 913   NEW.indexed_status := 1; --STATUS_NEW
 914
 915   NEW.calculated_country_code := lower(get_country_code(NEW.geometry, NEW.country_code));
 916
 917   NEW.partition := get_partition(NEW.geometry, NEW.calculated_country_code);
 918   NEW.geometry_sector := geometry_sector(NEW.partition, NEW.geometry);
 919
 920   -- copy 'name' to or from the default language (if there is a default language)
 921   IF NEW.name is not null AND array_upper(akeys(NEW.name),1) > 1 THEN
 922     default_language := get_country_language_code(NEW.calculated_country_code);
 923     IF default_language IS NOT NULL THEN
 924       IF NEW.name ? 'name' AND NOT NEW.name ? ('name:'||default_language) THEN
 925         NEW.name := NEW.name || (('name:'||default_language) => (NEW.name -> 'name'));
 926       ELSEIF NEW.name ? ('name:'||default_language) AND NOT NEW.name ? 'name' THEN
 927         NEW.name := NEW.name || ('name' => (NEW.name -> ('name:'||default_language)));
 928       END IF;
 929     END IF;
 930   END IF;
 931
 932   IF NEW.admin_level > 15 THEN
 933     NEW.admin_level := 15;
 934   END IF;
 935
 936   IF NEW.housenumber IS NOT NULL THEN
 937     i := getorcreate_housenumber_id(make_standard_name(NEW.housenumber));
 938   END IF;
 939
 940   IF NEW.osm_type = 'X' THEN
 941     -- E'X'ternal records should already be in the right format so do nothing
 942   ELSE
 943     NEW.rank_search := 30;
 944     NEW.rank_address := NEW.rank_search;
 945
 946     -- By doing in postgres we have the country available to us - currently only used for postcode
 947     IF NEW.class in ('place','boundary') AND NEW.type in ('postcode','postal_code') THEN
 948
 949         IF NEW.postcode IS NULL THEN
 950             -- most likely just a part of a multipolygon postcode boundary, throw it away
 951             RETURN NULL;
 952         END IF;
 953
 954         NEW.name := 'ref'=>NEW.postcode;
 955
 956         IF NEW.calculated_country_code = 'gb' THEN
 957
 958           IF NEW.postcode ~ '^([A-Z][A-Z]?[0-9][0-9A-Z]? [0-9][A-Z][A-Z])$' THEN
 959             NEW.rank_search := 25;
 960             NEW.rank_address := 5;
 961           ELSEIF NEW.postcode ~ '^([A-Z][A-Z]?[0-9][0-9A-Z]? [0-9])$' THEN
 962             NEW.rank_search := 23;
 963             NEW.rank_address := 5;
 964           ELSEIF NEW.postcode ~ '^([A-Z][A-Z]?[0-9][0-9A-Z])$' THEN
 965             NEW.rank_search := 21;
 966             NEW.rank_address := 5;
 967           END IF;
 968
 969         ELSEIF NEW.calculated_country_code = 'de' THEN
 970
 971           IF NEW.postcode ~ '^([0-9]{5})$' THEN
 972             NEW.rank_search := 21;
 973             NEW.rank_address := 11;
 974           END IF;
 975
 976         ELSE
 977           -- Guess at the postcode format and coverage (!)
 978           IF upper(NEW.postcode) ~ '^[A-Z0-9]{1,5}$' THEN -- Probably too short to be very local
 979             NEW.rank_search := 21;
 980             NEW.rank_address := 11;
 981           ELSE
 982             -- Does it look splitable into and area and local code?
 983             postcode := substring(upper(NEW.postcode) from '^([- :A-Z0-9]+)([- :][A-Z0-9]+)$');
 984
 985             IF postcode IS NOT NULL THEN
 986               NEW.rank_search := 25;
 987               NEW.rank_address := 11;
 988             ELSEIF NEW.postcode ~ '^[- :A-Z0-9]{6,}$' THEN
 989               NEW.rank_search := 21;
 990               NEW.rank_address := 11;
 991             END IF;
 992           END IF;
 993         END IF;
 994
 995     ELSEIF NEW.class = 'place' THEN
 996       IF NEW.type in ('continent') THEN
 997         NEW.rank_search := 2;
 998         NEW.rank_address := NEW.rank_search;
 999         NEW.calculated_country_code := NULL;
1000       ELSEIF NEW.type in ('sea') THEN
1001         NEW.rank_search := 2;
1002         NEW.rank_address := 0;
1003         NEW.calculated_country_code := NULL;
1004       ELSEIF NEW.type in ('country') THEN
1005         NEW.rank_search := 4;
1006         NEW.rank_address := NEW.rank_search;
1007       ELSEIF NEW.type in ('state') THEN
1008         NEW.rank_search := 8;
1009         NEW.rank_address := NEW.rank_search;
1010       ELSEIF NEW.type in ('region') THEN
1011         NEW.rank_search := 18; -- dropped from previous value of 10
1012         NEW.rank_address := 0; -- So badly miss-used that better to just drop it!
1013       ELSEIF NEW.type in ('county') THEN
1014         NEW.rank_search := 12;
1015         NEW.rank_address := NEW.rank_search;
1016       ELSEIF NEW.type in ('city') THEN
1017         NEW.rank_search := 16;
1018         NEW.rank_address := NEW.rank_search;
1019       ELSEIF NEW.type in ('island') THEN
1020         NEW.rank_search := 17;
1021         NEW.rank_address := 0;
1022       ELSEIF NEW.type in ('town') THEN
1023         NEW.rank_search := 18;
1024         NEW.rank_address := 16;
1025       ELSEIF NEW.type in ('village','hamlet','municipality','district','unincorporated_area','borough') THEN
1026         NEW.rank_search := 19;
1027         NEW.rank_address := 16;
1028       ELSEIF NEW.type in ('airport') AND ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') THEN
1029         NEW.rank_search := 18;
1030         NEW.rank_address := 17;
1031       ELSEIF NEW.type in ('moor') AND ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') THEN
1032         NEW.rank_search := 17;
1033         NEW.rank_address := 18;
1034       ELSEIF NEW.type in ('moor') THEN
1035         NEW.rank_search := 17;
1036         NEW.rank_address := 0;
1037       ELSEIF NEW.type in ('national_park') THEN
1038         NEW.rank_search := 18;
1039         NEW.rank_address := 18;
1040       ELSEIF NEW.type in ('suburb','croft','subdivision') THEN
1041         NEW.rank_search := 20;
1042         NEW.rank_address := NEW.rank_search;
1043       ELSEIF NEW.type in ('farm','locality','islet','isolated_dwelling','mountain_pass') THEN
1044         NEW.rank_search := 20;
1045         NEW.rank_address := 0;
1046         -- Irish townlands, tagged as place=locality and locality=townland
1047         IF (NEW.extratags -> 'locality') = 'townland' THEN
1048           NEW.rank_address := 20;
1049         END IF;
1050       ELSEIF NEW.type in ('hall_of_residence','neighbourhood','housing_estate','nature_reserve') THEN
1051         NEW.rank_search := 22;
1052         NEW.rank_address := 22;
1053       ELSEIF NEW.type in ('airport','street') THEN
1054         NEW.rank_search := 26;
1055         NEW.rank_address := NEW.rank_search;
1056       ELSEIF NEW.type in ('house','building') THEN
1057         NEW.rank_search := 30;
1058         NEW.rank_address := NEW.rank_search;
1059       ELSEIF NEW.type in ('houses') THEN
1060         -- can't guarantee all required nodes loaded yet due to caching in osm2pgsql
1061         -- insert new point into place for each derived building
1062         --i := create_interpolation(NEW.osm_id, NEW.housenumber);
1063         NEW.rank_search := 28;
1064         NEW.rank_address := 0;
1065       END IF;
1066
1067     ELSEIF NEW.class = 'boundary' THEN
1068       IF ST_GeometryType(NEW.geometry) NOT IN ('ST_Polygon','ST_MultiPolygon') THEN
1069 --        RAISE WARNING 'invalid boundary %',NEW.osm_id;
1070         return NULL;
1071       END IF;
1072       NEW.rank_search := NEW.admin_level * 2;
1073       NEW.rank_address := NEW.rank_search;
1074     ELSEIF NEW.class = 'landuse' AND ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') THEN
1075       NEW.rank_search := 22;
1076       NEW.rank_address := NEW.rank_search;
1077     ELSEIF NEW.class = 'natural' and NEW.type in ('peak','volcano','mountain_range') THEN
1078       NEW.rank_search := 18;
1079       NEW.rank_address := 0;
1080     -- any feature more than 5 square miles is probably worth indexing
1081     ELSEIF ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') AND ST_Area(NEW.geometry) > 0.1 THEN
1082       NEW.rank_search := 22;
1083       NEW.rank_address := NEW.rank_search;
1084     ELSEIF NEW.class = 'highway' AND NEW.name is NULL AND
1085            NEW.type in ('service','cycleway','path','footway','steps','bridleway','track','byway','motorway_link','primary_link','trunk_link','secondary_link','tertiary_link') THEN
1086 --      RAISE WARNING 'unnamed minor feature %',NEW.osm_id;
1087       RETURN NULL;
1088     ELSEIF NEW.class = 'railway' AND NEW.type in ('rail') THEN
1089       RETURN NULL;
1090     ELSEIF NEW.class = 'waterway' AND NEW.name is NULL THEN
1091       RETURN NULL;
1092     ELSEIF NEW.class = 'waterway' THEN
1093       NEW.rank_address := 17;
1094     ELSEIF NEW.class = 'highway' AND NEW.osm_type != 'N' AND NEW.type in ('service','cycleway','path','footway','steps','bridleway','motorway_link','primary_link','trunk_link','secondary_link','tertiary_link') THEN
1095       NEW.rank_search := 27;
1096       NEW.rank_address := NEW.rank_search;
1097     ELSEIF NEW.class = 'highway' AND NEW.osm_type != 'N' THEN
1098       NEW.rank_search := 26;
1099       NEW.rank_address := NEW.rank_search;
1100     ELSEIF NEW.class = 'natural' and NEW.type = 'sea' THEN
1101       NEW.rank_search := 4;
1102       NEW.rank_address := NEW.rank_search;
1103     ELSEIF NEW.class = 'natural' and NEW.type in ('coastline') THEN
1104       RETURN NULL;
1105     END IF;
1106
1107   END IF;
1108
1109   IF NEW.rank_search > 30 THEN
1110     NEW.rank_search := 30;
1111   END IF;
1112
1113   IF NEW.rank_address > 30 THEN
1114     NEW.rank_address := 30;
1115   END IF;
1116
1117   IF (NEW.extratags -> 'capital') = 'yes' THEN
1118     NEW.rank_search := NEW.rank_search - 1;
1119   END IF;
1120
1121   -- a country code make no sense below rank 4 (country)
1122   IF NEW.rank_address < 4 THEN
1123     NEW.calculated_country_code := NULL;
1124   END IF;
1125
1126 -- Block import below rank 22
1127 --  IF NEW.rank_search > 22 THEN
1128 --    RETURN NULL;
1129 --  END IF;
1130
1131   --DEBUG: RAISE WARNING 'placex_insert:END: % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type;
1132
1133   RETURN NEW; -- @DIFFUPDATES@ The following is not needed until doing diff updates, and slows the main index process down
1134
1135   IF (ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') AND ST_IsValid(NEW.geometry)) THEN
1136     -- Performance: We just can't handle re-indexing for country level changes
1137     IF st_area(NEW.geometry) < 1 THEN
1138       -- mark items within the geometry for re-indexing
1139 --    RAISE WARNING 'placex poly insert: % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type;
1140
1141       -- work around bug in postgis, this may have been fixed in 2.0.0 (see http://trac.osgeo.org/postgis/ticket/547)
1142       update placex set indexed_status = 2 where (st_covers(NEW.geometry, placex.geometry) OR ST_Intersects(NEW.geometry, placex.geometry))
1143        AND rank_search > NEW.rank_search and indexed_status = 0 and ST_geometrytype(placex.geometry) = 'ST_Point' and (rank_search < 28 or name is not null);
1144       update placex set indexed_status = 2 where (st_covers(NEW.geometry, placex.geometry) OR ST_Intersects(NEW.geometry, placex.geometry))
1145        AND rank_search > NEW.rank_search and indexed_status = 0 and ST_geometrytype(placex.geometry) != 'ST_Point' and (rank_search < 28 or name is not null);
1146     END IF;
1147   ELSE
1148     -- mark nearby items for re-indexing, where 'nearby' depends on the features rank_search and is a complete guess :(
1149     diameter := 0;
1150     -- 16 = city, anything higher than city is effectively ignored (polygon required!)
1151     IF NEW.type='postcode' THEN
1152       diameter := 0.05;
1153     ELSEIF NEW.rank_search < 16 THEN
1154       diameter := 0;
1155     ELSEIF NEW.rank_search < 18 THEN
1156       diameter := 0.1;
1157     ELSEIF NEW.rank_search < 20 THEN
1158       diameter := 0.05;
1159     ELSEIF NEW.rank_search = 21 THEN
1160       diameter := 0.001;
1161     ELSEIF NEW.rank_search < 24 THEN
1162       diameter := 0.02;
1163     ELSEIF NEW.rank_search < 26 THEN
1164       diameter := 0.002; -- 100 to 200 meters
1165     ELSEIF NEW.rank_search < 28 THEN
1166       diameter := 0.001; -- 50 to 100 meters
1167     END IF;
1168     IF diameter > 0 THEN
1169 --      RAISE WARNING 'placex point insert: % % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type,diameter;
1170       update placex set indexed_status = 2 where indexed_status = 0 and rank_search > NEW.rank_search and ST_DWithin(placex.geometry, NEW.geometry, diameter) and (rank_search < 28 or name is not null);
1171     END IF;
1172
1173   END IF;
1174
1175    -- add to tables for special search
1176    -- Note: won't work on initial import because the classtype tables
1177    -- do not yet exist. It won't hurt either.
1178   classtable := 'place_classtype_' || NEW.class || '_' || NEW.type;
1179   SELECT count(*)>0 FROM pg_tables WHERE tablename = classtable INTO result;
1180   IF result THEN
1181     EXECUTE 'INSERT INTO ' || classtable::regclass || ' (place_id, centroid) VALUES ($1,$2)'
1182     USING NEW.place_id, ST_Centroid(NEW.geometry);
1183   END IF;
1184
1185
1186 --  IF NEW.rank_search < 26 THEN
1187 --    RAISE WARNING 'placex insert: % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type;
1188 --  END IF;
1189
1190   RETURN NEW;
1191
1192 END;
1193 $$
1194 LANGUAGE plpgsql;
1195
1196 CREATE OR REPLACE FUNCTION placex_update() RETURNS
1197 TRIGGER
1198   AS $$
1199 DECLARE
1200
1201   place_centroid GEOMETRY;
1202
1203   search_maxdistance FLOAT[];
1204   search_mindistance FLOAT[];
1205   address_havelevel BOOLEAN[];
1206 --  search_scores wordscore[];
1207 --  search_scores_pos INTEGER;
1208
1209   i INTEGER;
1210   iMax FLOAT;
1211   location RECORD;
1212   way RECORD;
1213   relation RECORD;
1214   relation_members TEXT[];
1215   relMember RECORD;
1216   linkedplacex RECORD;
1217   search_diameter FLOAT;
1218   search_prevdiameter FLOAT;
1219   search_maxrank INTEGER;
1220   address_maxrank INTEGER;
1221   address_street_word_id INTEGER;
1222   parent_place_id_rank BIGINT;
1223
1224   isin TEXT[];
1225   isin_tokens INT[];
1226
1227   location_rank_search INTEGER;
1228   location_distance FLOAT;
1229   location_parent GEOMETRY;
1230   location_isaddress BOOLEAN;
1231
1232   tagpairid INTEGER;
1233
1234   default_language TEXT;
1235   name_vector INTEGER[];
1236   nameaddress_vector INTEGER[];
1237
1238   linked_node_id BIGINT;
1239
1240   result BOOLEAN;
1241 BEGIN
1242
1243   -- deferred delete
1244   IF OLD.indexed_status = 100 THEN
1245     --DEBUG: RAISE WARNING 'placex_update_delete % %',NEW.osm_type,NEW.osm_id;
1246     delete from placex where place_id = OLD.place_id;
1247     RETURN NULL;
1248   END IF;
1249
1250   IF NEW.indexed_status != 0 OR OLD.indexed_status = 0 OR NEW.linked_place_id is not null THEN
1251     RETURN NEW;
1252   END IF;
1253
1254   --DEBUG: RAISE WARNING 'placex_update % %',NEW.osm_type,NEW.osm_id;
1255
1256 --RAISE WARNING '%',NEW.place_id;
1257 --RAISE WARNING '%', NEW;
1258
1259   IF NEW.class = 'place' AND NEW.type = 'postcodearea' THEN
1260     -- Silently do nothing
1261     RETURN NEW;
1262   END IF;
1263
1264   IF OLD.indexed_status != 0 THEN
1265     --DEBUG: RAISE WARNING 'placex_update_0 % %',NEW.osm_type,NEW.osm_id;
1266
1267     NEW.indexed_date = now();
1268
1269     IF NEW.class = 'place' AND NEW.type = 'houses' THEN
1270       i := create_interpolation(NEW.osm_id, NEW.housenumber);
1271       RETURN NEW;
1272     END IF;
1273
1274     IF OLD.indexed_status > 0 THEN
1275       result := deleteSearchName(NEW.partition, NEW.place_id);
1276       DELETE FROM place_addressline WHERE place_id = NEW.place_id;
1277       DELETE FROM place_boundingbox where place_id = NEW.place_id;
1278       result := deleteRoad(NEW.partition, NEW.place_id);
1279       result := deleteLocationArea(NEW.partition, NEW.place_id);
1280       UPDATE placex set linked_place_id = null where linked_place_id = NEW.place_id;
1281     END IF;
1282
1283     -- Speed up searches - just use the centroid of the feature
1284     -- cheaper but less acurate
1285     place_centroid := ST_PointOnSurface(NEW.geometry);
1286     NEW.centroid := null;
1287
1288     -- reclaculate country and partition
1289     IF NEW.rank_search >= 4 THEN
1290       --NEW.calculated_country_code := lower(get_country_code(NEW.geometry, NEW.country_code));
1291       NEW.calculated_country_code := lower(get_country_code(place_centroid));
1292     ELSE
1293       NEW.calculated_country_code := NULL;
1294     END IF;
1295     NEW.partition := get_partition(place_centroid, NEW.calculated_country_code);
1296     NEW.geometry_sector := geometry_sector(NEW.partition, place_centroid);
1297
1298     -- Adding ourselves to the list simplifies address calculations later
1299     INSERT INTO place_addressline VALUES (NEW.place_id, NEW.place_id, true, true, 0, NEW.rank_address);
1300
1301     -- What level are we searching from
1302     search_maxrank := NEW.rank_search;
1303
1304     -- Thought this wasn't needed but when we add new languages to the country_name table
1305     -- we need to update the existing names
1306     IF NEW.name is not null AND array_upper(akeys(NEW.name),1) > 1 THEN
1307       default_language := get_country_language_code(NEW.calculated_country_code);
1308       IF default_language IS NOT NULL THEN
1309         IF NEW.name ? 'name' AND NOT NEW.name ? ('name:'||default_language) THEN
1310           NEW.name := NEW.name || (('name:'||default_language) => (NEW.name -> 'name'));
1311         ELSEIF NEW.name ? ('name:'||default_language) AND NOT NEW.name ? 'name' THEN
1312           NEW.name := NEW.name || ('name' => (NEW.name -> ('name:'||default_language)));
1313         END IF;
1314       END IF;
1315     END IF;
1316
1317     -- Initialise the name vector using our name
1318     name_vector := make_keywords(NEW.name);
1319     nameaddress_vector := '{}'::int[];
1320
1321     -- some tag combinations add a special id for search
1322     tagpairid := get_tagpair(NEW.class,NEW.type);
1323     IF tagpairid IS NOT NULL THEN
1324       name_vector := name_vector + tagpairid;
1325     END IF;
1326
1327     FOR i IN 1..28 LOOP
1328       address_havelevel[i] := false;
1329     END LOOP;
1330
1331     NEW.importance := null;
1332     select language||':'||title,importance from get_wikipedia_match(NEW.extratags, NEW.calculated_country_code) INTO NEW.wikipedia,NEW.importance;
1333     IF NEW.importance IS NULL THEN
1334       select language||':'||title,importance from wikipedia_article where osm_type = NEW.osm_type and osm_id = NEW.osm_id order by importance desc limit 1 INTO NEW.wikipedia,NEW.importance;
1335     END IF;
1336
1337 --RAISE WARNING 'before low level% %', NEW.place_id, NEW.rank_search;
1338
1339     -- For low level elements we inherit from our parent road
1340     IF (NEW.rank_search > 27 OR (NEW.type = 'postcode' AND NEW.rank_search = 25)) THEN
1341
1342 --RAISE WARNING 'finding street for %', NEW;
1343
1344       NEW.parent_place_id := null;
1345
1346       -- to do that we have to find our parent road
1347       -- Copy data from linked items (points on ways, addr:street links, relations)
1348       -- Note that addr:street links can only be indexed once the street itself is indexed
1349       IF NEW.parent_place_id IS NULL AND NEW.osm_type = 'N' THEN
1350
1351         -- Is this node part of a relation?
1352         FOR relation IN select * from planet_osm_rels where parts @> ARRAY[NEW.osm_id] and members @> ARRAY['n'||NEW.osm_id]
1353         LOOP
1354           -- At the moment we only process one type of relation - associatedStreet
1355           IF relation.tags @> ARRAY['associatedStreet'] AND array_upper(relation.members, 1) IS NOT NULL THEN
1356             FOR i IN 1..array_upper(relation.members, 1) BY 2 LOOP
1357               IF NEW.parent_place_id IS NULL AND relation.members[i+1] = 'street' THEN
1358 --RAISE WARNING 'node in relation %',relation;
1359                 SELECT place_id from placex where osm_type='W' and osm_id = substring(relation.members[i],2,200)::integer
1360                   and rank_search = 26 INTO NEW.parent_place_id;
1361               END IF;
1362             END LOOP;
1363           END IF;
1364         END LOOP;
1365
1366 --RAISE WARNING 'x1';
1367         -- Is this node part of a way?
1368         FOR way IN select id from planet_osm_ways where nodes @> ARRAY[NEW.osm_id] LOOP
1369 --RAISE WARNING '%', way;
1370         FOR location IN select * from placex where osm_type = 'W' and osm_id = way.id
1371         LOOP
1372 --RAISE WARNING '%', location;
1373           -- Way IS a road then we are on it - that must be our road
1374           IF location.rank_search = 26 AND NEW.parent_place_id IS NULL THEN
1375 --RAISE WARNING 'node in way that is a street %',location;
1376             NEW.parent_place_id := location.place_id;
1377           END IF;
1378
1379           -- Is the WAY part of a relation
1380           IF NEW.parent_place_id IS NULL THEN
1381               FOR relation IN select * from planet_osm_rels where parts @> ARRAY[location.osm_id] and members @> ARRAY['w'||location.osm_id]
1382               LOOP
1383                 -- At the moment we only process one type of relation - associatedStreet
1384                 IF relation.tags @> ARRAY['associatedStreet'] AND array_upper(relation.members, 1) IS NOT NULL THEN
1385                   FOR i IN 1..array_upper(relation.members, 1) BY 2 LOOP
1386                     IF NEW.parent_place_id IS NULL AND relation.members[i+1] = 'street' THEN
1387     --RAISE WARNING 'node in way that is in a relation %',relation;
1388                       SELECT place_id from placex where osm_type='W' and osm_id = substring(relation.members[i],2,200)::integer
1389                         and rank_search = 26 INTO NEW.parent_place_id;
1390                     END IF;
1391                   END LOOP;
1392                 END IF;
1393               END LOOP;
1394           END IF;
1395
1396           -- If the way contains an explicit name of a street copy it
1397           IF NEW.street IS NULL AND location.street IS NOT NULL THEN
1398 --RAISE WARNING 'node in way that has a streetname %',location;
1399             NEW.street := location.street;
1400           END IF;
1401
1402           -- If this way is a street interpolation line then it is probably as good as we are going to get
1403           IF NEW.parent_place_id IS NULL AND NEW.street IS NULL AND location.class = 'place' and location.type='houses' THEN
1404             -- Try and find a way that is close roughly parellel to this line
1405             FOR relation IN SELECT place_id FROM placex
1406               WHERE ST_DWithin(location.geometry, placex.geometry, 0.001) and placex.rank_search = 26
1407                 and st_geometrytype(location.geometry) in ('ST_LineString')
1408               ORDER BY (ST_distance(placex.geometry, ST_Line_Interpolate_Point(location.geometry,0))+
1409                         ST_distance(placex.geometry, ST_Line_Interpolate_Point(location.geometry,0.5))+
1410                         ST_distance(placex.geometry, ST_Line_Interpolate_Point(location.geometry,1))) ASC limit 1
1411             LOOP
1412 --RAISE WARNING 'using nearest street to address interpolation line,0.001 %',relation;
1413               NEW.parent_place_id := relation.place_id;
1414             END LOOP;
1415           END IF;
1416
1417         END LOOP;
1418         END LOOP;
1419
1420       END IF;
1421
1422 --RAISE WARNING 'x2';
1423
1424       IF NEW.parent_place_id IS NULL AND NEW.osm_type = 'W' THEN
1425         -- Is this way part of a relation?
1426         FOR relation IN select * from planet_osm_rels where parts @> ARRAY[NEW.osm_id] and members @> ARRAY['w'||NEW.osm_id]
1427         LOOP
1428           -- At the moment we only process one type of relation - associatedStreet
1429           IF relation.tags @> ARRAY['associatedStreet'] AND array_upper(relation.members, 1) IS NOT NULL THEN
1430             FOR i IN 1..array_upper(relation.members, 1) BY 2 LOOP
1431               IF NEW.parent_place_id IS NULL AND relation.members[i+1] = 'street' THEN
1432 --RAISE WARNING 'way that is in a relation %',relation;
1433                 SELECT place_id from placex where osm_type='W' and osm_id = substring(relation.members[i],2,200)::integer
1434                   and rank_search = 26 INTO NEW.parent_place_id;
1435               END IF;
1436             END LOOP;
1437           END IF;
1438         END LOOP;
1439       END IF;
1440
1441 --RAISE WARNING 'x3 %',NEW.parent_place_id;
1442
1443       IF NEW.parent_place_id IS NULL AND NEW.street IS NOT NULL THEN
1444         address_street_word_id := get_name_id(make_standard_name(NEW.street));
1445         IF address_street_word_id IS NOT NULL THEN
1446           FOR location IN SELECT * from getNearestNamedRoadFeature(NEW.partition, place_centroid, address_street_word_id) LOOP
1447             NEW.parent_place_id := location.place_id;
1448           END LOOP;
1449         END IF;
1450       END IF;
1451
1452 --RAISE WARNING 'x4 %',NEW.parent_place_id;
1453       -- Still nothing, just use the nearest road
1454       IF NEW.parent_place_id IS NULL THEN
1455         FOR location IN SELECT place_id FROM getNearestRoadFeature(NEW.partition, place_centroid) LOOP
1456           NEW.parent_place_id := location.place_id;
1457         END LOOP;
1458       END IF;
1459
1460 --return NEW;
1461 --RAISE WARNING 'x6 %',NEW.parent_place_id;
1462
1463       -- If we didn't find any road fallback to standard method
1464       IF NEW.parent_place_id IS NOT NULL THEN
1465
1466         -- Add the street to the address as zero distance to force to front of list
1467 --        INSERT INTO place_addressline VALUES (NEW.place_id, NEW.parent_place_id, true, true, 0, 26);
1468         address_havelevel[26] := true;
1469
1470         -- Import address details from parent, reclculating distance in process
1471 --        INSERT INTO place_addressline select NEW.place_id, x.address_place_id, x.fromarea, x.isaddress, ST_distance(NEW.geometry, placex.geometry), placex.rank_address
1472 --          from place_addressline as x join placex on (address_place_id = placex.place_id)
1473 --          where x.place_id = NEW.parent_place_id and x.address_place_id != NEW.parent_place_id;
1474
1475         -- Get the details of the parent road
1476         select * from search_name where place_id = NEW.parent_place_id INTO location;
1477         NEW.calculated_country_code := location.country_code;
1478
1479 --RAISE WARNING '%', NEW.name;
1480         -- If there is no name it isn't searchable, don't bother to create a search record
1481         IF NEW.name is NULL THEN
1482           return NEW;
1483         END IF;
1484
1485         -- Merge address from parent
1486         nameaddress_vector := array_merge(nameaddress_vector, location.nameaddress_vector);
1487 --return NEW;
1488         -- Performance, it would be more acurate to do all the rest of the import process but it takes too long
1489         -- Just be happy with inheriting from parent road only
1490
1491         IF NEW.rank_search <= 25 THEN
1492           result := add_location(NEW.place_id, NEW.calculated_country_code, NEW.partition, name_vector, NEW.rank_search, NEW.rank_address, NEW.geometry);
1493         END IF;
1494
1495         result := insertSearchName(NEW.partition, NEW.place_id, NEW.calculated_country_code, name_vector, nameaddress_vector, NEW.rank_search, NEW.rank_address, NEW.importance, place_centroid);
1496
1497         return NEW;
1498       END IF;
1499
1500     END IF;
1501
1502 -- RAISE WARNING '  INDEXING Started:';
1503 -- RAISE WARNING '  INDEXING: %',NEW;
1504
1505     IF NEW.osm_type = 'R' AND NEW.rank_search < 26 THEN
1506
1507       -- see if we have any special relation members
1508       select members from planet_osm_rels where id = NEW.osm_id INTO relation_members;
1509
1510 -- RAISE WARNING 'get_osm_rel_members, label';
1511       IF relation_members IS NOT NULL THEN
1512         FOR relMember IN select get_osm_rel_members(relation_members,ARRAY['label']) as member LOOP
1513
1514           FOR linkedPlacex IN select * from placex where osm_type = upper(substring(relMember.member,1,1))::char(1)
1515             and osm_id = substring(relMember.member,2,10000)::bigint order by rank_search desc limit 1 LOOP
1516
1517             -- If we don't already have one use this as the centre point of the geometry
1518             IF NEW.centroid IS NULL THEN
1519               NEW.centroid := coalesce(linkedPlacex.centroid,st_centroid(linkedPlacex.geometry));
1520             END IF;
1521
1522             -- merge in the label name, re-init word vector
1523             IF NOT linkedPlacex.name IS NULL THEN
1524               NEW.name := linkedPlacex.name || NEW.name;
1525               name_vector := make_keywords(NEW.name);
1526             END IF;
1527
1528             -- merge in extra tags
1529             IF NOT linkedPlacex.extratags IS NULL THEN
1530               NEW.extratags := linkedPlacex.extratags || NEW.extratags;
1531             END IF;
1532
1533             -- mark the linked place (excludes from search results)
1534             UPDATE placex set linked_place_id = NEW.place_id where place_id = linkedPlacex.place_id;
1535
1536           END LOOP;
1537
1538         END LOOP;
1539
1540         IF NEW.centroid IS NULL THEN
1541
1542           FOR relMember IN select get_osm_rel_members(relation_members,ARRAY['admin_center','admin_centre']) as member LOOP
1543
1544             FOR linkedPlacex IN select * from placex where osm_type = upper(substring(relMember.member,1,1))::char(1)
1545               and osm_id = substring(relMember.member,2,10000)::bigint order by rank_search desc limit 1 LOOP
1546
1547               -- For an admin centre we also want a name match - still not perfect, for example 'new york, new york'
1548               -- But that can be fixed by explicitly setting the label in the data
1549               IF make_standard_name(NEW.name->'name') = make_standard_name(linkedPlacex.name->'name')
1550                 AND NEW.rank_address = linkedPlacex.rank_address THEN
1551
1552
1553                 -- If we don't already have one use this as the centre point of the geometry
1554                 IF NEW.centroid IS NULL THEN
1555                   NEW.centroid := coalesce(linkedPlacex.centroid,st_centroid(linkedPlacex.geometry));
1556                 END IF;
1557
1558                 -- merge in the name, re-init word vector
1559                 IF NOT linkedPlacex.name IS NULL THEN
1560                   NEW.name := linkedPlacex.name || NEW.name;
1561                   name_vector := make_keywords(NEW.name);
1562                 END IF;
1563
1564                 -- merge in extra tags
1565                 IF NOT linkedPlacex.extratags IS NULL THEN
1566                   NEW.extratags := linkedPlacex.extratags || NEW.extratags;
1567                 END IF;
1568
1569                 -- mark the linked place (excludes from search results)
1570                 UPDATE placex set linked_place_id = NEW.place_id where place_id = linkedPlacex.place_id;
1571
1572                 -- keep a note of the node id in case we need it for wikipedia in a bit
1573                 linked_node_id := linkedPlacex.osm_id;
1574               END IF;
1575
1576             END LOOP;
1577
1578           END LOOP;
1579
1580         END IF;
1581       END IF;
1582
1583       -- not found one yet? how about doing a name search
1584       IF NEW.centroid IS NULL AND (NEW.name->'name') is not null and make_standard_name(NEW.name->'name') != '' THEN
1585
1586         FOR linkedPlacex IN select placex.* from placex WHERE
1587           make_standard_name(name->'name') = make_standard_name(NEW.name->'name')
1588           AND placex.rank_address = NEW.rank_address
1589           AND placex.place_id != NEW.place_id
1590           AND placex.osm_type = 'N'::char(1) AND placex.rank_search < 26
1591           AND st_covers(NEW.geometry, placex.geometry)
1592         LOOP
1593
1594           -- If we don't already have one use this as the centre point of the geometry
1595           IF NEW.centroid IS NULL THEN
1596             NEW.centroid := coalesce(linkedPlacex.centroid,st_centroid(linkedPlacex.geometry));
1597           END IF;
1598
1599           -- merge in the name, re-init word vector
1600           NEW.name := linkedPlacex.name || NEW.name;
1601           name_vector := make_keywords(NEW.name);
1602
1603           -- merge in extra tags
1604           NEW.extratags := linkedPlacex.extratags || NEW.extratags;
1605
1606           -- mark the linked place (excludes from search results)
1607           UPDATE placex set linked_place_id = NEW.place_id where place_id = linkedPlacex.place_id;
1608
1609           -- keep a note of the node id in case we need it for wikipedia in a bit
1610           linked_node_id := linkedPlacex.osm_id;
1611         END LOOP;
1612       END IF;
1613
1614       IF NEW.centroid IS NOT NULL THEN
1615         place_centroid := NEW.centroid;
1616       END IF;
1617
1618       -- Did we gain a wikipedia tag in the process? then we need to recalculate our importance
1619       IF NEW.importance is null THEN
1620         select language||':'||title,importance from get_wikipedia_match(NEW.extratags, NEW.calculated_country_code) INTO NEW.wikipedia,NEW.importance;
1621       END IF;
1622       -- Still null? how about looking it up by the node id
1623       IF NEW.importance IS NULL THEN
1624         select language||':'||title,importance from wikipedia_article where osm_type = 'N'::char(1) and osm_id = linked_node_id order by importance desc limit 1 INTO NEW.wikipedia,NEW.importance;
1625       END IF;
1626
1627     END IF;
1628
1629     NEW.parent_place_id = 0;
1630     parent_place_id_rank = 0;
1631
1632     -- convert isin to array of tokenids
1633     isin_tokens := '{}'::int[];
1634     IF NEW.isin IS NOT NULL THEN
1635       isin := regexp_split_to_array(NEW.isin, E'[;,]');
1636       IF array_upper(isin, 1) IS NOT NULL THEN
1637         FOR i IN 1..array_upper(isin, 1) LOOP
1638           address_street_word_id := get_name_id(make_standard_name(isin[i]));
1639           IF address_street_word_id IS NOT NULL AND NOT(ARRAY[address_street_word_id] <@ isin_tokens) THEN
1640             isin_tokens := isin_tokens || address_street_word_id;
1641           END IF;
1642         END LOOP;
1643       END IF;
1644     END IF;
1645     IF NEW.postcode IS NOT NULL THEN
1646       isin := regexp_split_to_array(NEW.postcode, E'[;,]');
1647       IF array_upper(isin, 1) IS NOT NULL THEN
1648         FOR i IN 1..array_upper(isin, 1) LOOP
1649           address_street_word_id := get_name_id(make_standard_name(isin[i]));
1650           IF address_street_word_id IS NOT NULL AND NOT(ARRAY[address_street_word_id] <@ isin_tokens) THEN
1651             isin_tokens := isin_tokens || address_street_word_id;
1652           END IF;
1653         END LOOP;
1654       END IF;
1655     END IF;
1656 -- RAISE WARNING 'ISIN: %', isin_tokens;
1657
1658     -- Process area matches
1659     location_rank_search := 0;
1660     location_distance := 0;
1661     location_parent := NULL;
1662     -- added ourself as address already
1663     address_havelevel[NEW.rank_address] := true;
1664     -- RAISE WARNING '  getNearFeatures(%,''%'',%,''%'')',NEW.partition, place_centroid, search_maxrank, isin_tokens;
1665     FOR location IN SELECT * from getNearFeatures(NEW.partition, place_centroid, search_maxrank, isin_tokens) LOOP
1666
1667 --RAISE WARNING '  AREA: %',location;
1668
1669       IF location.rank_address != location_rank_search THEN
1670         location_rank_search := location.rank_address;
1671         location_distance := location.distance * 1.5;
1672       END IF;
1673
1674       IF location.distance < location_distance OR NOT location.isguess THEN
1675
1676         location_isaddress := NOT address_havelevel[location.rank_address];
1677         IF location_isaddress AND location.isguess AND location_parent IS NOT NULL THEN
1678             location_isaddress := ST_Contains(location_parent,location.centroid);
1679         END IF;
1680
1681         -- RAISE WARNING '% isaddress: %', location.place_id, location_isaddress;
1682         -- Add it to the list of search terms
1683         nameaddress_vector := array_merge(nameaddress_vector, location.keywords::integer[]);
1684         INSERT INTO place_addressline VALUES (NEW.place_id, location.place_id, true, location_isaddress, location.distance, location.rank_address);
1685
1686         IF location_isaddress THEN
1687             address_havelevel[location.rank_address] := true;
1688             IF NOT location.isguess THEN
1689                 SELECT geometry FROM placex WHERE place_id = location.place_id INTO location_parent;
1690             END IF;
1691         END IF;
1692
1693 --RAISE WARNING '  Terms: (%) %',location, nameaddress_vector;
1694
1695         IF location.rank_address > parent_place_id_rank THEN
1696           NEW.parent_place_id = location.place_id;
1697           parent_place_id_rank = location.rank_address;
1698         END IF;
1699
1700       END IF;
1701
1702     END LOOP;
1703
1704     -- try using the isin value to find parent places
1705     IF array_upper(isin_tokens, 1) IS NOT NULL THEN
1706       FOR i IN 1..array_upper(isin_tokens, 1) LOOP
1707 --RAISE WARNING '  getNearestNamedFeature: % % % %',NEW.partition, place_centroid, search_maxrank, isin_tokens[i];
1708         IF NOT ARRAY[isin_tokens[i]] <@ nameaddress_vector THEN
1709
1710           FOR location IN SELECT * from getNearestNamedFeature(NEW.partition, place_centroid, search_maxrank, isin_tokens[i]) LOOP
1711
1712   --RAISE WARNING '  ISIN: %',location;
1713
1714             nameaddress_vector := array_merge(nameaddress_vector, location.keywords::integer[]);
1715             INSERT INTO place_addressline VALUES (NEW.place_id, location.place_id, false, NOT address_havelevel[location.rank_address], location.distance, location.rank_address);
1716             address_havelevel[location.rank_address] := true;
1717
1718             IF location.rank_address > parent_place_id_rank THEN
1719               NEW.parent_place_id = location.place_id;
1720               parent_place_id_rank = location.rank_address;
1721             END IF;
1722
1723           END LOOP;
1724
1725         END IF;
1726
1727       END LOOP;
1728     END IF;
1729
1730     -- for long ways we should add search terms for the entire length
1731     IF st_length(NEW.geometry) > 0.05 THEN
1732
1733       location_rank_search := 0;
1734       location_distance := 0;
1735
1736       FOR location IN SELECT * from getNearFeatures(NEW.partition, NEW.geometry, search_maxrank, isin_tokens) LOOP
1737
1738         IF location.rank_address != location_rank_search THEN
1739           location_rank_search := location.rank_address;
1740           location_distance := location.distance * 1.5;
1741         END IF;
1742
1743         IF location.distance < location_distance THEN
1744
1745           -- Add it to the list of search terms
1746           nameaddress_vector := array_merge(nameaddress_vector, location.keywords::integer[]);
1747           INSERT INTO place_addressline VALUES (NEW.place_id, location.place_id, true, false, location.distance, location.rank_address);
1748
1749         END IF;
1750
1751       END LOOP;
1752
1753     END IF;
1754
1755     -- if we have a name add this to the name search table
1756     IF NEW.name IS NOT NULL THEN
1757
1758       IF NEW.rank_search <= 25 THEN
1759         result := add_location(NEW.place_id, NEW.calculated_country_code, NEW.partition, name_vector, NEW.rank_search, NEW.rank_address, NEW.geometry);
1760       END IF;
1761
1762       IF NEW.rank_search between 26 and 27 and NEW.class = 'highway' THEN
1763         result := insertLocationRoad(NEW.partition, NEW.place_id, NEW.calculated_country_code, NEW.geometry);
1764       END IF;
1765
1766       result := insertSearchName(NEW.partition, NEW.place_id, NEW.calculated_country_code, name_vector, nameaddress_vector, NEW.rank_search, NEW.rank_address, NEW.importance, place_centroid);
1767
1768 --      INSERT INTO search_name values (NEW.place_id, NEW.rank_search, NEW.rank_search, 0, NEW.calculated_country_code, name_vector, nameaddress_vector, place_centroid);
1769     END IF;
1770
1771     -- If we've not managed to pick up a better one - default centroid
1772     IF NEW.centroid IS NULL THEN
1773       NEW.centroid := place_centroid;
1774     END IF;
1775
1776   END IF;
1777
1778   RETURN NEW;
1779 END;
1780 $$
1781 LANGUAGE plpgsql;
1782
1783 CREATE OR REPLACE FUNCTION placex_delete() RETURNS TRIGGER
1784   AS $$
1785 DECLARE
1786   b BOOLEAN;
1787   classtable TEXT;
1788 BEGIN
1789   -- RAISE WARNING 'placex_delete % %',OLD.osm_type,OLD.osm_id;
1790
1791   update placex set linked_place_id = null, indexed_status = 2 where linked_place_id = OLD.place_id and indexed_status = 0;
1792   --DEBUG: RAISE WARNING 'placex_delete:01 % %',OLD.osm_type,OLD.osm_id;
1793   update placex set linked_place_id = null where linked_place_id = OLD.place_id;
1794   --DEBUG: RAISE WARNING 'placex_delete:02 % %',OLD.osm_type,OLD.osm_id;
1795
1796   IF OLD.rank_address < 30 THEN
1797
1798     -- mark everything linked to this place for re-indexing
1799     --DEBUG: RAISE WARNING 'placex_delete:03 % %',OLD.osm_type,OLD.osm_id;
1800     UPDATE placex set indexed_status = 2 from place_addressline where address_place_id = OLD.place_id
1801       and placex.place_id = place_addressline.place_id and indexed_status = 0;
1802
1803     --DEBUG: RAISE WARNING 'placex_delete:04 % %',OLD.osm_type,OLD.osm_id;
1804     DELETE FROM place_addressline where address_place_id = OLD.place_id;
1805
1806     --DEBUG: RAISE WARNING 'placex_delete:05 % %',OLD.osm_type,OLD.osm_id;
1807     b := deleteRoad(OLD.partition, OLD.place_id);
1808
1809     --DEBUG: RAISE WARNING 'placex_delete:06 % %',OLD.osm_type,OLD.osm_id;
1810     update placex set indexed_status = 2 where parent_place_id = OLD.place_id and indexed_status = 0;
1811     --DEBUG: RAISE WARNING 'placex_delete:07 % %',OLD.osm_type,OLD.osm_id;
1812
1813   END IF;
1814
1815   --DEBUG: RAISE WARNING 'placex_delete:08 % %',OLD.osm_type,OLD.osm_id;
1816
1817   IF OLD.rank_address < 26 THEN
1818     b := deleteLocationArea(OLD.partition, OLD.place_id);
1819   END IF;
1820
1821   --DEBUG: RAISE WARNING 'placex_delete:09 % %',OLD.osm_type,OLD.osm_id;
1822
1823   IF OLD.name is not null THEN
1824     b := deleteSearchName(OLD.partition, OLD.place_id);
1825   END IF;
1826
1827   --DEBUG: RAISE WARNING 'placex_delete:10 % %',OLD.osm_type,OLD.osm_id;
1828
1829   DELETE FROM place_addressline where place_id = OLD.place_id;
1830
1831   --DEBUG: RAISE WARNING 'placex_delete:11 % %',OLD.osm_type,OLD.osm_id;
1832
1833   -- remove from tables for special search
1834   classtable := 'place_classtype_' || OLD.class || '_' || OLD.type;
1835   SELECT count(*)>0 FROM pg_tables WHERE tablename = classtable INTO b;
1836   IF b THEN
1837     EXECUTE 'DELETE FROM ' || classtable::regclass || ' WHERE place_id = $1' USING OLD.place_id;
1838   END IF;
1839
1840   --DEBUG: RAISE WARNING 'placex_delete:12 % %',OLD.osm_type,OLD.osm_id;
1841
1842   RETURN OLD;
1843
1844 END;
1845 $$
1846 LANGUAGE plpgsql;
1847
1848 CREATE OR REPLACE FUNCTION place_delete() RETURNS TRIGGER
1849   AS $$
1850 DECLARE
1851   placeid BIGINT;
1852 BEGIN
1853
1854   --DEBUG: RAISE WARNING 'delete: % % % %',OLD.osm_type,OLD.osm_id,OLD.class,OLD.type;
1855
1856   -- deleting large polygons can have a massive effect on the system - require manual intervention to let them through
1857   IF st_area(OLD.geometry) > 2 and st_isvalid(OLD.geometry) THEN
1858     insert into import_polygon_delete values (OLD.osm_type,OLD.osm_id,OLD.class,OLD.type);
1859     RETURN NULL;
1860   END IF;
1861
1862   -- mark for delete
1863   UPDATE placex set indexed_status = 100 where osm_type = OLD.osm_type and osm_id = OLD.osm_id and class = OLD.class and type = OLD.type;
1864
1865   RETURN OLD;
1866
1867 END;
1868 $$
1869 LANGUAGE plpgsql;
1870
1871 CREATE OR REPLACE FUNCTION place_insert() RETURNS TRIGGER
1872   AS $$
1873 DECLARE
1874   i INTEGER;
1875   existing RECORD;
1876   existingplacex RECORD;
1877   existinggeometry GEOMETRY;
1878   existingplace_id BIGINT;
1879   result BOOLEAN;
1880   partition INTEGER;
1881 BEGIN
1882
1883   --DEBUG: RAISE WARNING '-----------------------------------------------------------------------------------';
1884   --DEBUG: RAISE WARNING 'place_insert: % % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type,st_area(NEW.geometry);
1885
1886   IF FALSE and NEW.osm_type = 'R' THEN
1887     select * from placex where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type INTO existingplacex;
1888     --DEBUG: RAISE WARNING '%', existingplacex;
1889   END IF;
1890
1891   -- Just block these - lots and pointless
1892   IF NEW.class = 'highway' and NEW.type in ('turning_circle','traffic_signals','mini_roundabout','noexit','crossing') THEN
1893     RETURN null;
1894   END IF;
1895   IF NEW.class in ('landuse','natural') and NEW.name is null THEN
1896     RETURN null;
1897   END IF;
1898
1899   IF ST_IsEmpty(NEW.geometry) OR NOT ST_IsValid(NEW.geometry) OR ST_X(ST_Centroid(NEW.geometry))::text in ('NaN','Infinity','-Infinity') OR ST_Y(ST_Centroid(NEW.geometry))::text in ('NaN','Infinity','-Infinity') THEN
1900     INSERT INTO import_polygon_error values (NEW.osm_type, NEW.osm_id, NEW.class, NEW.type, NEW.name, NEW.country_code,
1901       now(), ST_IsValidReason(NEW.geometry), null, NEW.geometry);
1902 --    RAISE WARNING 'Invalid Geometry: % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type;
1903     RETURN null;
1904   END IF;
1905
1906   -- Patch in additional country names
1907   IF NEW.admin_level = 2 AND NEW.type = 'administrative' AND NEW.country_code is not null THEN
1908     select coalesce(country_name.name || NEW.name,NEW.name) from country_name where country_name.country_code = lower(NEW.country_code) INTO NEW.name;
1909   END IF;
1910
1911   -- Have we already done this place?
1912   select * from place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type INTO existing;
1913
1914   -- Get the existing place_id
1915   select * from placex where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type INTO existingplacex;
1916
1917   -- Handle a place changing type by removing the old data
1918   -- My generated 'place' types are causing havok because they overlap with real keys
1919   -- TODO: move them to their own special purpose key/class to avoid collisions
1920   IF existing.osm_type IS NULL AND (NEW.type not in ('postcode','house','houses')) THEN
1921     DELETE FROM place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type not in ('postcode','house','houses');
1922   END IF;
1923
1924   --DEBUG: RAISE WARNING 'Existing: %',existing.osm_id;
1925   --DEBUG: RAISE WARNING 'Existing PlaceX: %',existingplacex.place_id;
1926
1927   -- Log and discard
1928   IF existing.geometry is not null AND st_isvalid(existing.geometry)
1929     AND st_area(existing.geometry) > 0.02
1930     AND ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon')
1931     AND st_area(NEW.geometry) < st_area(existing.geometry)*0.5
1932     THEN
1933     INSERT INTO import_polygon_error values (NEW.osm_type, NEW.osm_id, NEW.class, NEW.type, NEW.name, NEW.country_code, now(),
1934       'Area reduced from '||st_area(existing.geometry)||' to '||st_area(NEW.geometry), existing.geometry, NEW.geometry);
1935     RETURN null;
1936   END IF;
1937
1938   DELETE from import_polygon_error where osm_type = NEW.osm_type and osm_id = NEW.osm_id;
1939   DELETE from import_polygon_delete where osm_type = NEW.osm_type and osm_id = NEW.osm_id;
1940
1941   -- To paraphrase, if there isn't an existing item, OR if the admin level has changed, OR if it is a major change in geometry
1942   IF existingplacex.osm_type IS NULL THEN
1943
1944     IF existing.osm_type IS NOT NULL THEN
1945       DELETE from place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type;
1946     END IF;
1947
1948     -- No - process it as a new insertion (hopefully of low rank or it will be slow)
1949     insert into placex (osm_type, osm_id, class, type, name, admin_level, housenumber,
1950       street, isin, postcode, country_code, extratags, geometry)
1951       values (NEW.osm_type
1952         ,NEW.osm_id
1953         ,NEW.class
1954         ,NEW.type
1955         ,NEW.name
1956         ,NEW.admin_level
1957         ,NEW.housenumber
1958         ,NEW.street
1959         ,NEW.isin
1960         ,NEW.postcode
1961         ,NEW.country_code
1962         ,NEW.extratags
1963         ,NEW.geometry
1964         );
1965
1966     --DEBUG: RAISE WARNING 'insert done % % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type,NEW.name;
1967
1968     RETURN NEW;
1969   END IF;
1970
1971   -- Various ways to do the update
1972
1973   -- Debug, what's changed?
1974   IF FALSE THEN
1975     IF coalesce(existing.name::text, '') != coalesce(NEW.name::text, '') THEN
1976       RAISE WARNING 'update details, name: % % % %',NEW.osm_type,NEW.osm_id,existing.name::text,NEW.name::text;
1977     END IF;
1978     IF coalesce(existing.housenumber, '') != coalesce(NEW.housenumber, '') THEN
1979       RAISE WARNING 'update details, housenumber: % % % %',NEW.osm_type,NEW.osm_id,existing.housenumber,NEW.housenumber;
1980     END IF;
1981     IF coalesce(existing.street, '') != coalesce(NEW.street, '') THEN
1982       RAISE WARNING 'update details, street: % % % %',NEW.osm_type,NEW.osm_id,existing.street,NEW.street;
1983     END IF;
1984     IF coalesce(existing.isin, '') != coalesce(NEW.isin, '') THEN
1985       RAISE WARNING 'update details, isin: % % % %',NEW.osm_type,NEW.osm_id,existing.isin,NEW.isin;
1986     END IF;
1987     IF coalesce(existing.postcode, '') != coalesce(NEW.postcode, '') THEN
1988       RAISE WARNING 'update details, postcode: % % % %',NEW.osm_type,NEW.osm_id,existing.postcode,NEW.postcode;
1989     END IF;
1990     IF coalesce(existing.country_code, '') != coalesce(NEW.country_code, '') THEN
1991       RAISE WARNING 'update details, country_code: % % % %',NEW.osm_type,NEW.osm_id,existing.country_code,NEW.country_code;
1992     END IF;
1993   END IF;
1994
1995   -- Special case for polygon shape changes because they tend to be large and we can be a bit clever about how we handle them
1996   IF existing.geometry::text != NEW.geometry::text
1997      AND ST_GeometryType(existing.geometry) in ('ST_Polygon','ST_MultiPolygon')
1998      AND ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon')
1999      THEN
2000
2001     -- Get the version of the geometry actually used (in placex table)
2002     select geometry from placex where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type into existinggeometry;
2003
2004     -- Performance limit
2005     IF st_area(NEW.geometry) < 0.000000001 AND st_area(existinggeometry) < 1 THEN
2006
2007       -- re-index points that have moved in / out of the polygon, could be done as a single query but postgres gets the index usage wrong
2008       update placex set indexed_status = 2 where indexed_status = 0 and
2009           (st_covers(NEW.geometry, placex.geometry) OR ST_Intersects(NEW.geometry, placex.geometry))
2010           AND NOT (st_covers(existinggeometry, placex.geometry) OR ST_Intersects(existinggeometry, placex.geometry))
2011           AND rank_search > existingplacex.rank_search AND (rank_search < 28 or name is not null);
2012
2013       update placex set indexed_status = 2 where indexed_status = 0 and
2014           (st_covers(existinggeometry, placex.geometry) OR ST_Intersects(existinggeometry, placex.geometry))
2015           AND NOT (st_covers(NEW.geometry, placex.geometry) OR ST_Intersects(NEW.geometry, placex.geometry))
2016           AND rank_search > existingplacex.rank_search AND (rank_search < 28 or name is not null);
2017
2018     END IF;
2019
2020   END IF;
2021
2022   -- Special case - if we are just adding extra words we hack them into the search_name table rather than reindexing
2023   IF FALSE AND existingplacex.rank_search < 26
2024      AND coalesce(existing.housenumber, '') = coalesce(NEW.housenumber, '')
2025      AND coalesce(existing.street, '') = coalesce(NEW.street, '')
2026      AND coalesce(existing.isin, '') = coalesce(NEW.isin, '')
2027      AND coalesce(existing.postcode, '') = coalesce(NEW.postcode, '')
2028      AND coalesce(existing.country_code, '') = coalesce(NEW.country_code, '')
2029      AND coalesce(existing.name::text, '') != coalesce(NEW.name::text, '')
2030      THEN
2031
2032     IF NOT update_location_nameonly(existingplacex.place_id, NEW.name) THEN
2033
2034       IF st_area(NEW.geometry) < 0.5 THEN
2035         UPDATE placex set indexed_status = 2 from place_addressline where address_place_id = existingplacex.place_id
2036           and placex.place_id = place_addressline.place_id and indexed_status = 0
2037           and (rank_search < 28 or name is not null);
2038       END IF;
2039
2040     END IF;
2041
2042   ELSE
2043
2044     -- Anything else has changed - reindex the lot
2045     IF coalesce(existing.name::text, '') != coalesce(NEW.name::text, '')
2046         OR coalesce(existing.housenumber, '') != coalesce(NEW.housenumber, '')
2047         OR coalesce(existing.street, '') != coalesce(NEW.street, '')
2048         OR coalesce(existing.isin, '') != coalesce(NEW.isin, '')
2049         OR coalesce(existing.postcode, '') != coalesce(NEW.postcode, '')
2050         OR coalesce(existing.country_code, '') != coalesce(NEW.country_code, '') THEN
2051
2052       -- performance, can't take the load of re-indexing a whole country / huge area
2053       IF st_area(NEW.geometry) < 0.5 THEN
2054 --        UPDATE placex set indexed_status = 2 from place_addressline where address_place_id = existingplacex.place_id
2055 --          and placex.place_id = place_addressline.place_id and indexed_status = 0;
2056       END IF;
2057
2058     END IF;
2059
2060   END IF;
2061
2062   IF coalesce(existing.name::text, '') != coalesce(NEW.name::text, '')
2063      OR coalesce(existing.extratags::text, '') != coalesce(NEW.extratags::text, '')
2064      OR coalesce(existing.housenumber, '') != coalesce(NEW.housenumber, '')
2065      OR coalesce(existing.street, '') != coalesce(NEW.street, '')
2066      OR coalesce(existing.isin, '') != coalesce(NEW.isin, '')
2067      OR coalesce(existing.postcode, '') != coalesce(NEW.postcode, '')
2068      OR coalesce(existing.country_code, '') != coalesce(NEW.country_code, '')
2069      OR coalesce(existing.admin_level, 15) != coalesce(NEW.admin_level, 15)
2070      OR existing.geometry::text != NEW.geometry::text
2071      THEN
2072
2073     update place set
2074       name = NEW.name,
2075       housenumber  = NEW.housenumber,
2076       street = NEW.street,
2077       isin = NEW.isin,
2078       postcode = NEW.postcode,
2079       country_code = NEW.country_code,
2080       extratags = NEW.extratags,
2081       geometry = NEW.geometry
2082       where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type;
2083
2084     update placex set
2085       name = NEW.name,
2086       housenumber = NEW.housenumber,
2087       street = NEW.street,
2088       isin = NEW.isin,
2089       postcode = NEW.postcode,
2090       country_code = NEW.country_code,
2091       parent_place_id = null,
2092       extratags = NEW.extratags,
2093       indexed_status = 2,
2094       geometry = NEW.geometry
2095       where place_id = existingplacex.place_id;
2096
2097   END IF;
2098
2099   -- Abort the add (we modified the existing place instead)
2100   RETURN NULL;
2101
2102 END;
2103 $$ LANGUAGE plpgsql;
2104
2105 CREATE OR REPLACE FUNCTION get_name_by_language(name hstore, languagepref TEXT[]) RETURNS TEXT
2106   AS $$
2107 DECLARE
2108   search TEXT[];
2109   found BOOLEAN;
2110 BEGIN
2111
2112   IF name is null THEN
2113     RETURN null;
2114   END IF;
2115
2116   search := languagepref;
2117
2118   FOR j IN 1..array_upper(search, 1) LOOP
2119     IF name ? search[j] AND trim(name->search[j]) != '' THEN
2120       return trim(name->search[j]);
2121     END IF;
2122   END LOOP;
2123
2124   RETURN null;
2125 END;
2126 $$
2127 LANGUAGE plpgsql IMMUTABLE;
2128
2129 CREATE OR REPLACE FUNCTION get_connected_ways(way_ids INTEGER[]) RETURNS SETOF planet_osm_ways
2130   AS $$
2131 DECLARE
2132   searchnodes INTEGER[];
2133   location RECORD;
2134   j INTEGER;
2135 BEGIN
2136
2137   searchnodes := '{}';
2138   FOR j IN 1..array_upper(way_ids, 1) LOOP
2139     FOR location IN
2140       select nodes from planet_osm_ways where id = way_ids[j] LIMIT 1
2141     LOOP
2142       IF not (ARRAY[location.nodes] <@ searchnodes) THEN
2143         searchnodes := searchnodes || location.nodes;
2144       END IF;
2145     END LOOP;
2146   END LOOP;
2147
2148   RETURN QUERY select * from planet_osm_ways where nodes && searchnodes and NOT ARRAY[id] <@ way_ids;
2149 END;
2150 $$
2151 LANGUAGE plpgsql IMMUTABLE;
2152
2153 CREATE OR REPLACE FUNCTION get_address_postcode(for_place_id BIGINT) RETURNS TEXT
2154   AS $$
2155 DECLARE
2156   result TEXT[];
2157   search TEXT[];
2158   for_postcode TEXT;
2159   found INTEGER;
2160   location RECORD;
2161 BEGIN
2162
2163   found := 1000;
2164   search := ARRAY['ref'];
2165   result := '{}';
2166
2167   select postcode from placex where place_id = for_place_id limit 1 into for_postcode;
2168
2169   FOR location IN
2170     select rank_address,name,distance,length(name::text) as namelength
2171       from place_addressline join placex on (address_place_id = placex.place_id)
2172       where place_addressline.place_id = for_place_id and rank_address in (5,11)
2173       order by rank_address desc,rank_search desc,fromarea desc,distance asc,namelength desc
2174   LOOP
2175     IF array_upper(search, 1) IS NOT NULL AND array_upper(location.name, 1) IS NOT NULL THEN
2176       FOR j IN 1..array_upper(search, 1) LOOP
2177         FOR k IN 1..array_upper(location.name, 1) LOOP
2178           IF (found > location.rank_address AND location.name[k].key = search[j] AND location.name[k].value != '') AND NOT result @> ARRAY[trim(location.name[k].value)] AND (for_postcode IS NULL OR location.name[k].value ilike for_postcode||'%') THEN
2179             result[(100 - location.rank_address)] := trim(location.name[k].value);
2180             found := location.rank_address;
2181           END IF;
2182         END LOOP;
2183       END LOOP;
2184     END IF;
2185   END LOOP;
2186
2187   RETURN array_to_string(result,', ');
2188 END;
2189 $$
2190 LANGUAGE plpgsql;
2191
2192 CREATE OR REPLACE FUNCTION get_address_by_language(for_place_id BIGINT, languagepref TEXT[]) RETURNS TEXT
2193   AS $$
2194 DECLARE
2195   result TEXT[];
2196   currresult TEXT;
2197   prevresult TEXT;
2198   location RECORD;
2199 BEGIN
2200
2201   result := '{}';
2202   prevresult := '';
2203
2204   FOR location IN select * from get_addressdata(for_place_id) where isaddress order by rank_address desc LOOP
2205     currresult := trim(get_name_by_language(location.name, languagepref));
2206     IF currresult != prevresult AND currresult IS NOT NULL AND result[(100 - location.rank_address)] IS NULL THEN
2207       result[(100 - location.rank_address)] := trim(get_name_by_language(location.name, languagepref));
2208       prevresult := currresult;
2209     END IF;
2210   END LOOP;
2211
2212   RETURN array_to_string(result,', ');
2213 END;
2214 $$
2215 LANGUAGE plpgsql;
2216
2217 DROP TYPE addressline CASCADE;
2218 create type addressline as (
2219   place_id BIGINT,
2220   osm_type CHAR(1),
2221   osm_id INTEGER,
2222   name HSTORE,
2223   class TEXT,
2224   type TEXT,
2225   admin_level INTEGER,
2226   fromarea BOOLEAN,
2227   isaddress BOOLEAN,
2228   rank_address INTEGER,
2229   distance FLOAT
2230 );
2231
2232 CREATE OR REPLACE FUNCTION get_addressdata(in_place_id BIGINT) RETURNS setof addressline
2233   AS $$
2234 DECLARE
2235   for_place_id BIGINT;
2236   result TEXT[];
2237   search TEXT[];
2238   found INTEGER;
2239   location RECORD;
2240   countrylocation RECORD;
2241   searchcountrycode varchar(2);
2242   searchhousenumber TEXT;
2243   searchhousename HSTORE;
2244   searchrankaddress INTEGER;
2245   searchpostcode TEXT;
2246   searchclass TEXT;
2247   searchtype TEXT;
2248   countryname HSTORE;
2249   hadcountry BOOLEAN;
2250 BEGIN
2251
2252   select parent_place_id,'us', housenumber, 30, postcode, null, 'place', 'house' from location_property_tiger
2253     WHERE place_id = in_place_id
2254     INTO for_place_id,searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode, searchhousename, searchclass, searchtype;
2255
2256   IF for_place_id IS NULL THEN
2257     select parent_place_id,'us', housenumber, 30, postcode, null, 'place', 'house' from location_property_aux
2258       WHERE place_id = in_place_id
2259       INTO for_place_id,searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode, searchhousename, searchclass, searchtype;
2260   END IF;
2261
2262   IF for_place_id IS NULL THEN
2263     select parent_place_id, calculated_country_code, housenumber, rank_search, postcode, name, class, type from placex
2264       WHERE place_id = in_place_id and rank_address = 30
2265       INTO for_place_id, searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode, searchhousename, searchclass, searchtype;
2266   END IF;
2267
2268   IF for_place_id IS NULL THEN
2269     for_place_id := in_place_id;
2270     select calculated_country_code, housenumber, rank_search, postcode, null from placex where place_id = for_place_id
2271       INTO searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode, searchhousename;
2272   END IF;
2273
2274 --RAISE WARNING '% % % %',searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode;
2275
2276   found := 1000;
2277   hadcountry := false;
2278   FOR location IN
2279     select placex.place_id, osm_type, osm_id,
2280       CASE WHEN class = 'place' and type = 'postcode' THEN 'name' => postcode ELSE name END as name,
2281       class, type, admin_level, true as fromarea, true as isaddress,
2282       CASE WHEN rank_address = 0 THEN 100 WHEN rank_address = 11 THEN 5 ELSE rank_address END as rank_address,
2283       0 as distance, calculated_country_code
2284       from placex
2285       where place_id = for_place_id
2286   LOOP
2287 --RAISE WARNING '%',location;
2288     IF searchcountrycode IS NULL AND location.calculated_country_code IS NOT NULL THEN
2289       searchcountrycode := location.calculated_country_code;
2290     END IF;
2291     IF searchpostcode IS NOT NULL and location.type = 'postcode' THEN
2292       location.isaddress := FALSE;
2293     END IF;
2294     IF location.rank_address = 4 AND location.isaddress THEN
2295       hadcountry := true;
2296     END IF;
2297     IF location.rank_address < 4 AND NOT hadcountry THEN
2298       select name from country_name where country_code = searchcountrycode limit 1 INTO countryname;
2299       IF countryname IS NOT NULL THEN
2300         countrylocation := ROW(null, null, null, countryname, 'place', 'country', null, true, true, 4, 0)::addressline;
2301         RETURN NEXT countrylocation;
2302       END IF;
2303     END IF;
2304     countrylocation := ROW(location.place_id, location.osm_type, location.osm_id, location.name, location.class,
2305                            location.type, location.admin_level, location.fromarea, location.isaddress, location.rank_address,
2306                            location.distance)::addressline;
2307     RETURN NEXT countrylocation;
2308     found := location.rank_address;
2309   END LOOP;
2310
2311   FOR location IN
2312     select placex.place_id, osm_type, osm_id,
2313       CASE WHEN class = 'place' and type = 'postcode' THEN 'name' => postcode ELSE name END as name,
2314       class, type, admin_level, fromarea, isaddress,
2315       CASE WHEN address_place_id = for_place_id AND rank_address = 0 THEN 100 WHEN rank_address = 11 THEN 5 ELSE rank_address END as rank_address,
2316       distance,calculated_country_code
2317       from place_addressline join placex on (address_place_id = placex.place_id)
2318       where place_addressline.place_id = for_place_id
2319       and (cached_rank_address > 0 AND cached_rank_address < searchrankaddress)
2320       and address_place_id != for_place_id
2321       and (placex.calculated_country_code IS NULL OR searchcountrycode IS NULL OR placex.calculated_country_code = searchcountrycode)
2322       order by rank_address desc,isaddress desc,fromarea desc,distance asc,rank_search desc
2323   LOOP
2324 --RAISE WARNING '%',location;
2325     IF searchcountrycode IS NULL AND location.calculated_country_code IS NOT NULL THEN
2326       searchcountrycode := location.calculated_country_code;
2327     END IF;
2328     IF searchpostcode IS NOT NULL and location.type = 'postcode' THEN
2329       location.isaddress := FALSE;
2330     END IF;
2331     IF location.rank_address = 4 AND location.isaddress THEN
2332       hadcountry := true;
2333     END IF;
2334     IF location.rank_address < 4 AND NOT hadcountry THEN
2335       select name from country_name where country_code = searchcountrycode limit 1 INTO countryname;
2336       IF countryname IS NOT NULL THEN
2337         countrylocation := ROW(null, null, null, countryname, 'place', 'country', null, true, true, 4, 0)::addressline;
2338         RETURN NEXT countrylocation;
2339       END IF;
2340     END IF;
2341     countrylocation := ROW(location.place_id, location.osm_type, location.osm_id, location.name, location.class,
2342                            location.type, location.admin_level, location.fromarea, location.isaddress, location.rank_address,
2343                            location.distance)::addressline;
2344     RETURN NEXT countrylocation;
2345     found := location.rank_address;
2346   END LOOP;
2347
2348   IF found > 4 THEN
2349     select name from country_name where country_code = searchcountrycode limit 1 INTO countryname;
2350 --RAISE WARNING '% % %',found,searchcountrycode,countryname;
2351     IF countryname IS NOT NULL THEN
2352       location := ROW(null, null, null, countryname, 'place', 'country', null, true, true, 4, 0)::addressline;
2353       RETURN NEXT location;
2354     END IF;
2355   END IF;
2356
2357   IF searchcountrycode IS NOT NULL THEN
2358     location := ROW(null, null, null, 'ref'=>searchcountrycode, 'place', 'country_code', null, true, false, 4, 0)::addressline;
2359     RETURN NEXT location;
2360   END IF;
2361
2362   IF searchhousename IS NOT NULL THEN
2363     location := ROW(in_place_id, null, null, searchhousename, searchclass, searchtype, null, true, true, 29, 0)::addressline;
2364 --    location := ROW(in_place_id, null, null, searchhousename, 'place', 'house_name', null, true, true, 29, 0)::addressline;
2365     RETURN NEXT location;
2366   END IF;
2367
2368   IF searchhousenumber IS NOT NULL THEN
2369     location := ROW(in_place_id, null, null, 'ref'=>searchhousenumber, 'place', 'house_number', null, true, true, 28, 0)::addressline;
2370     RETURN NEXT location;
2371   END IF;
2372
2373   IF searchpostcode IS NOT NULL THEN
2374     location := ROW(null, null, null, 'ref'=>searchpostcode, 'place', 'postcode', null, true, true, 5, 0)::addressline;
2375     RETURN NEXT location;
2376   END IF;
2377
2378   RETURN;
2379 END;
2380 $$
2381 LANGUAGE plpgsql;
2382
2383 CREATE OR REPLACE FUNCTION get_place_boundingbox(search_place_id BIGINT) RETURNS place_boundingbox
2384   AS $$
2385 DECLARE
2386   result place_boundingbox;
2387   numfeatures integer;
2388 BEGIN
2389   select * from place_boundingbox into result where place_id = search_place_id;
2390   IF result.place_id IS NULL THEN
2391 -- remove  isaddress = true because if there is a matching polygon it always wins
2392     select count(*) from place_addressline where address_place_id = search_place_id into numfeatures;
2393     insert into place_boundingbox select place_id,
2394              ST_Y(ST_PointN(ExteriorRing(ST_Box2D(geometry)),4)),ST_Y(ST_PointN(ExteriorRing(ST_Box2D(geometry)),2)),
2395              ST_X(ST_PointN(ExteriorRing(ST_Box2D(geometry)),1)),ST_X(ST_PointN(ExteriorRing(ST_Box2D(geometry)),3)),
2396              numfeatures, ST_Area(geometry),
2397              geometry as area from location_area where place_id = search_place_id;
2398     select * from place_boundingbox into result where place_id = search_place_id;
2399   END IF;
2400   IF result.place_id IS NULL THEN
2401 -- TODO 0.0001
2402     insert into place_boundingbox select address_place_id,
2403              min(ST_Y(ST_Centroid(geometry))) as minlon,max(ST_Y(ST_Centroid(geometry))) as maxlon,
2404              min(ST_X(ST_Centroid(geometry))) as minlat,max(ST_X(ST_Centroid(geometry))) as maxlat,
2405              count(*), ST_Area(ST_Buffer(ST_Convexhull(ST_Collect(geometry)),0.0001)) as area,
2406              ST_Buffer(ST_Convexhull(ST_Collect(geometry)),0.0001) as boundary
2407              from (select * from place_addressline where address_place_id = search_place_id order by cached_rank_address limit 4000) as place_addressline join placex using (place_id)
2408              where address_place_id = search_place_id
2409 --               and (isaddress = true OR place_id = search_place_id)
2410                and (st_length(geometry) < 0.01 or place_id = search_place_id)
2411              group by address_place_id limit 1;
2412     select * from place_boundingbox into result where place_id = search_place_id;
2413   END IF;
2414   return result;
2415 END;
2416 $$
2417 LANGUAGE plpgsql;
2418
2419 -- don't do the operation if it would be slow
2420 CREATE OR REPLACE FUNCTION get_place_boundingbox_quick(search_place_id BIGINT) RETURNS place_boundingbox
2421   AS $$
2422 DECLARE
2423   result place_boundingbox;
2424   numfeatures integer;
2425   rank integer;
2426 BEGIN
2427   select * from place_boundingbox into result where place_id = search_place_id;
2428   IF result IS NULL AND rank > 14 THEN
2429     select count(*) from place_addressline where address_place_id = search_place_id and isaddress = true into numfeatures;
2430     insert into place_boundingbox select place_id,
2431              ST_Y(ST_PointN(ExteriorRing(ST_Box2D(geometry)),4)),ST_Y(ST_PointN(ExteriorRing(ST_Box2D(geometry)),2)),
2432              ST_X(ST_PointN(ExteriorRing(ST_Box2D(geometry)),1)),ST_X(ST_PointN(ExteriorRing(ST_Box2D(geometry)),3)),
2433              numfeatures, ST_Area(geometry),
2434              geometry as area from location_area where place_id = search_place_id;
2435     select * from place_boundingbox into result where place_id = search_place_id;
2436   END IF;
2437   IF result IS NULL THEN
2438     select rank_search from placex where place_id = search_place_id into rank;
2439     IF rank > 20 THEN
2440 -- TODO 0.0001
2441       insert into place_boundingbox select address_place_id,
2442              min(ST_Y(ST_Centroid(geometry))) as minlon,max(ST_Y(ST_Centroid(geometry))) as maxlon,
2443              min(ST_X(ST_Centroid(geometry))) as minlat,max(ST_X(ST_Centroid(geometry))) as maxlat,
2444              count(*), ST_Area(ST_Buffer(ST_Convexhull(ST_Collect(geometry)),0.0001)) as area,
2445              ST_Buffer(ST_Convexhull(ST_Collect(geometry)),0.0001) as boundary
2446              from place_addressline join placex using (place_id)
2447              where address_place_id = search_place_id
2448                and (isaddress = true OR place_id = search_place_id)
2449                and (st_length(geometry) < 0.01 or place_id = search_place_id)
2450              group by address_place_id limit 1;
2451       select * from place_boundingbox into result where place_id = search_place_id;
2452     END IF;
2453   END IF;
2454   return result;
2455 END;
2456 $$
2457 LANGUAGE plpgsql;
2458
2459 CREATE OR REPLACE FUNCTION update_place(search_place_id BIGINT) RETURNS BOOLEAN
2460   AS $$
2461 DECLARE
2462   result place_boundingbox;
2463   numfeatures integer;
2464 BEGIN
2465   update placex set
2466       name = place.name,
2467       housenumber = place.housenumber,
2468       street = place.street,
2469       isin = place.isin,
2470       postcode = place.postcode,
2471       country_code = place.country_code,
2472       parent_place_id = null
2473       from place
2474       where placex.place_id = search_place_id
2475         and place.osm_type = placex.osm_type and place.osm_id = placex.osm_id
2476         and place.class = placex.class and place.type = placex.type;
2477   update placex set indexed_status = 2 where place_id = search_place_id;
2478   update placex set indexed_status = 0 where place_id = search_place_id;
2479   return true;
2480 END;
2481 $$
2482 LANGUAGE plpgsql;
2483
2484 CREATE OR REPLACE FUNCTION get_searchrank_label(rank INTEGER) RETURNS TEXT
2485   AS $$
2486 DECLARE
2487 BEGIN
2488   IF rank < 2 THEN
2489     RETURN 'Continent';
2490   ELSEIF rank < 4 THEN
2491     RETURN 'Sea';
2492   ELSEIF rank < 8 THEN
2493     RETURN 'Country';
2494   ELSEIF rank < 12 THEN
2495     RETURN 'State';
2496   ELSEIF rank < 16 THEN
2497     RETURN 'County';
2498   ELSEIF rank = 16 THEN
2499     RETURN 'City';
2500   ELSEIF rank = 17 THEN
2501     RETURN 'Town / Island';
2502   ELSEIF rank = 18 THEN
2503     RETURN 'Village / Hamlet';
2504   ELSEIF rank = 20 THEN
2505     RETURN 'Suburb';
2506   ELSEIF rank = 21 THEN
2507     RETURN 'Postcode Area';
2508   ELSEIF rank = 22 THEN
2509     RETURN 'Croft / Farm / Locality / Islet';
2510   ELSEIF rank = 23 THEN
2511     RETURN 'Postcode Area';
2512   ELSEIF rank = 25 THEN
2513     RETURN 'Postcode Point';
2514   ELSEIF rank = 26 THEN
2515     RETURN 'Street / Major Landmark';
2516   ELSEIF rank = 27 THEN
2517     RETURN 'Minory Street / Path';
2518   ELSEIF rank = 28 THEN
2519     RETURN 'House / Building';
2520   ELSE
2521     RETURN 'Other: '||rank;
2522   END IF;
2523
2524 END;
2525 $$
2526 LANGUAGE plpgsql;
2527
2528 CREATE OR REPLACE FUNCTION get_addressrank_label(rank INTEGER) RETURNS TEXT
2529   AS $$
2530 DECLARE
2531 BEGIN
2532   IF rank = 0 THEN
2533     RETURN 'None';
2534   ELSEIF rank < 2 THEN
2535     RETURN 'Continent';
2536   ELSEIF rank < 4 THEN
2537     RETURN 'Sea';
2538   ELSEIF rank = 5 THEN
2539     RETURN 'Postcode';
2540   ELSEIF rank < 8 THEN
2541     RETURN 'Country';
2542   ELSEIF rank < 12 THEN
2543     RETURN 'State';
2544   ELSEIF rank < 16 THEN
2545     RETURN 'County';
2546   ELSEIF rank = 16 THEN
2547     RETURN 'City';
2548   ELSEIF rank = 17 THEN
2549     RETURN 'Town / Village / Hamlet';
2550   ELSEIF rank = 20 THEN
2551     RETURN 'Suburb';
2552   ELSEIF rank = 21 THEN
2553     RETURN 'Postcode Area';
2554   ELSEIF rank = 22 THEN
2555     RETURN 'Croft / Farm / Locality / Islet';
2556   ELSEIF rank = 23 THEN
2557     RETURN 'Postcode Area';
2558   ELSEIF rank = 25 THEN
2559     RETURN 'Postcode Point';
2560   ELSEIF rank = 26 THEN
2561     RETURN 'Street / Major Landmark';
2562   ELSEIF rank = 27 THEN
2563     RETURN 'Minory Street / Path';
2564   ELSEIF rank = 28 THEN
2565     RETURN 'House / Building';
2566   ELSE
2567     RETURN 'Other: '||rank;
2568   END IF;
2569
2570 END;
2571 $$
2572 LANGUAGE plpgsql;
2573
2574 CREATE OR REPLACE FUNCTION get_word_suggestion(srcword TEXT) RETURNS TEXT
2575   AS $$
2576 DECLARE
2577   trigramtoken TEXT;
2578   result TEXT;
2579 BEGIN
2580
2581   trigramtoken := regexp_replace(make_standard_name(srcword),E'([^0-9])\\1+',E'\\1','g');
2582   SELECT word FROM word WHERE word_trigram like ' %' and word_trigram % trigramtoken ORDER BY similarity(word_trigram, trigramtoken) DESC, word limit 1 into result;
2583
2584   return result;
2585 END;
2586 $$
2587 LANGUAGE plpgsql;
2588
2589 CREATE OR REPLACE FUNCTION get_word_suggestions(srcword TEXT) RETURNS TEXT[]
2590   AS $$
2591 DECLARE
2592   trigramtoken TEXT;
2593   result TEXT[];
2594   r RECORD;
2595 BEGIN
2596
2597   trigramtoken := regexp_replace(make_standard_name(srcword),E'([^0-9])\\1+',E'\\1','g');
2598
2599   FOR r IN SELECT word,similarity(word_trigram, trigramtoken) as score FROM word
2600     WHERE word_trigram like ' %' and word_trigram % trigramtoken ORDER BY similarity(word_trigram, trigramtoken) DESC, word limit 4
2601   LOOP
2602     result[coalesce(array_upper(result,1)+1,1)] := r.word;
2603   END LOOP;
2604
2605   return result;
2606 END;
2607 $$
2608 LANGUAGE plpgsql;
2609
2610 CREATE OR REPLACE FUNCTION aux_create_property(pointgeo GEOMETRY, in_housenumber TEXT,
2611   in_street TEXT, in_isin TEXT, in_postcode TEXT, in_countrycode char(2)) RETURNS INTEGER
2612   AS $$
2613 DECLARE
2614
2615   newpoints INTEGER;
2616   place_centroid GEOMETRY;
2617   out_partition INTEGER;
2618   out_parent_place_id BIGINT;
2619   location RECORD;
2620   address_street_word_id INTEGER;
2621   out_postcode TEXT;
2622
2623 BEGIN
2624
2625   place_centroid := ST_Centroid(pointgeo);
2626   out_partition := get_partition(place_centroid, in_countrycode);
2627   out_parent_place_id := null;
2628
2629   address_street_word_id := get_name_id(make_standard_name(in_street));
2630   IF address_street_word_id IS NOT NULL THEN
2631     FOR location IN SELECT * from getNearestNamedRoadFeature(out_partition, place_centroid, address_street_word_id) LOOP
2632       out_parent_place_id := location.place_id;
2633     END LOOP;
2634   END IF;
2635
2636   IF out_parent_place_id IS NULL THEN
2637     FOR location IN SELECT place_id FROM getNearestRoadFeature(out_partition, place_centroid) LOOP
2638       out_parent_place_id := location.place_id;
2639     END LOOP;
2640   END IF;
2641
2642   out_postcode := in_postcode;
2643   IF out_postcode IS NULL THEN
2644     SELECT postcode from placex where place_id = out_parent_place_id INTO out_postcode;
2645   END IF;
2646   IF out_postcode IS NULL THEN
2647     out_postcode := getNearestPostcode(out_partition, place_centroid);
2648   END IF;
2649
2650   newpoints := 0;
2651   insert into location_property_aux (place_id, partition, parent_place_id, housenumber, postcode, centroid)
2652     values (nextval('seq_place'), out_partition, out_parent_place_id, in_housenumber, out_postcode, place_centroid);
2653   newpoints := newpoints + 1;
2654
2655   RETURN newpoints;
2656 END;
2657 $$
2658 LANGUAGE plpgsql;
2659
2660 CREATE OR REPLACE FUNCTION get_osm_rel_members(members TEXT[], member TEXT) RETURNS TEXT[]
2661   AS $$
2662 DECLARE
2663   result TEXT[];
2664   i INTEGER;
2665 BEGIN
2666
2667   FOR i IN 1..ARRAY_UPPER(members,1) BY 2 LOOP
2668     IF members[i+1] = member THEN
2669       result := result || members[i];
2670     END IF;
2671   END LOOP;
2672
2673   return result;
2674 END;
2675 $$
2676 LANGUAGE plpgsql;
2677
2678 CREATE OR REPLACE FUNCTION get_osm_rel_members(members TEXT[], memberLabels TEXT[]) RETURNS SETOF TEXT
2679   AS $$
2680 DECLARE
2681   i INTEGER;
2682 BEGIN
2683
2684   FOR i IN 1..ARRAY_UPPER(members,1) BY 2 LOOP
2685     IF members[i+1] = ANY(memberLabels) THEN
2686       RETURN NEXT members[i];
2687     END IF;
2688   END LOOP;
2689
2690   RETURN;
2691 END;
2692 $$
2693 LANGUAGE plpgsql;
2694
2695 -- See: http://stackoverflow.com/questions/6410088/how-can-i-mimic-the-php-urldecode-function-in-postgresql
2696 CREATE OR REPLACE FUNCTION decode_url_part(p varchar) RETURNS varchar
2697   AS $$
2698 SELECT convert_from(CAST(E'\\x' || array_to_string(ARRAY(
2699     SELECT CASE WHEN length(r.m[1]) = 1 THEN encode(convert_to(r.m[1], 'SQL_ASCII'), 'hex') ELSE substring(r.m[1] from 2 for 2) END
2700     FROM regexp_matches($1, '%[0-9a-f][0-9a-f]|.', 'gi') AS r(m)
2701 ), '') AS bytea), 'UTF8');
2702 $$
2703 LANGUAGE SQL IMMUTABLE STRICT;
2704
2705 CREATE OR REPLACE FUNCTION catch_decode_url_part(p varchar) RETURNS varchar
2706   AS $$
2707 DECLARE
2708 BEGIN
2709   RETURN decode_url_part(p);
2710 EXCEPTION
2711   WHEN others THEN return null;
2712 END;
2713 $$
2714 LANGUAGE plpgsql IMMUTABLE;
2715
2716 DROP TYPE wikipedia_article_match CASCADE;
2717 create type wikipedia_article_match as (
2718   language TEXT,
2719   title TEXT,
2720   importance FLOAT
2721 );
2722
2723 CREATE OR REPLACE FUNCTION get_wikipedia_match(extratags HSTORE, country_code varchar(2)) RETURNS wikipedia_article_match
2724   AS $$
2725 DECLARE
2726   langs TEXT[];
2727   i INT;
2728   wiki_article TEXT;
2729   wiki_article_title TEXT;
2730   wiki_article_language TEXT;
2731   result wikipedia_article_match;
2732 BEGIN
2733   langs := ARRAY['english','country','ar','bg','ca','cs','da','de','en','es','eo','eu','fa','fr','ko','hi','hr','id','it','he','lt','hu','ms','nl','ja','no','pl','pt','kk','ro','ru','sk','sl','sr','fi','sv','tr','uk','vi','vo','war','zh'];
2734   i := 1;
2735   WHILE langs[i] IS NOT NULL LOOP
2736     wiki_article := extratags->(case when langs[i] in ('english','country') THEN 'wikipedia' ELSE 'wikipedia:'||langs[i] END);
2737     IF wiki_article is not null THEN
2738       wiki_article := regexp_replace(wiki_article,E'^(.*?)([a-z]{2,3}).wikipedia.org/wiki/',E'\\2:');
2739       wiki_article := regexp_replace(wiki_article,E'^(.*?)([a-z]{2,3}).wikipedia.org/w/index.php\\?title=',E'\\2:');
2740       wiki_article := regexp_replace(wiki_article,E'^(.*?)/([a-z]{2,3})/wiki/',E'\\2:');
2741       wiki_article := regexp_replace(wiki_article,E'^(.*?)([a-z]{2,3})[=:]',E'\\2:');
2742       wiki_article := replace(wiki_article,' ','_');
2743       wiki_article_title := trim(split_part(wiki_article, ':', 2));
2744       IF wiki_article_title IS NULL OR wiki_article_title = '' THEN
2745         wiki_article_title := trim(wiki_article);
2746         wiki_article_language := CASE WHEN langs[i] = 'english' THEN 'en' WHEN langs[i] = 'country' THEN get_country_language_code(country_code) ELSE langs[i] END;
2747       ELSE
2748         wiki_article_language := lower(trim(split_part(wiki_article, ':', 1)));
2749       END IF;
2750
2751       select wikipedia_article.language,wikipedia_article.title,wikipedia_article.importance
2752         from wikipedia_article
2753         where language = wiki_article_language and
2754         (title = wiki_article_title OR title = catch_decode_url_part(wiki_article_title) OR title = replace(catch_decode_url_part(wiki_article_title),E'\\',''))
2755       UNION ALL
2756       select wikipedia_article.language,wikipedia_article.title,wikipedia_article.importance
2757         from wikipedia_redirect join wikipedia_article on (wikipedia_redirect.language = wikipedia_article.language and wikipedia_redirect.to_title = wikipedia_article.title)
2758         where wikipedia_redirect.language = wiki_article_language and
2759         (from_title = wiki_article_title OR from_title = catch_decode_url_part(wiki_article_title) OR from_title = replace(catch_decode_url_part(wiki_article_title),E'\\',''))
2760       order by importance desc limit 1 INTO result;
2761
2762       IF result.language is not null THEN
2763         return result;
2764       END IF;
2765     END IF;
2766     i := i + 1;
2767   END LOOP;
2768   RETURN NULL;
2769 END;
2770 $$
2771 LANGUAGE plpgsql;
2772
2773 CREATE OR REPLACE FUNCTION quad_split_geometry(geometry GEOMETRY, maxarea FLOAT, maxdepth INTEGER)
2774   RETURNS SETOF GEOMETRY
2775   AS $$
2776 DECLARE
2777   xmin FLOAT;
2778   ymin FLOAT;
2779   xmax FLOAT;
2780   ymax FLOAT;
2781   xmid FLOAT;
2782   ymid FLOAT;
2783   secgeo GEOMETRY;
2784   secbox GEOMETRY;
2785   seg INTEGER;
2786   geo RECORD;
2787   area FLOAT;
2788   remainingdepth INTEGER;
2789   added INTEGER;
2790
2791 BEGIN
2792
2793 --  RAISE WARNING 'quad_split_geometry: maxarea=%, depth=%',maxarea,maxdepth;
2794
2795   IF (ST_GeometryType(geometry) not in ('ST_Polygon','ST_MultiPolygon') OR NOT ST_IsValid(geometry)) THEN
2796     RETURN NEXT geometry;
2797     RETURN;
2798   END IF;
2799
2800   remainingdepth := maxdepth - 1;
2801   area := ST_AREA(geometry);
2802   IF remainingdepth < 1 OR area < maxarea THEN
2803     RETURN NEXT geometry;
2804     RETURN;
2805   END IF;
2806
2807   xmin := st_xmin(geometry);
2808   xmax := st_xmax(geometry);
2809   ymin := st_ymin(geometry);
2810   ymax := st_ymax(geometry);
2811   secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(ymin,xmin),ST_Point(ymax,xmax)),4326);
2812
2813   -- if the geometry completely covers the box don't bother to slice any more
2814   IF ST_AREA(secbox) = area THEN
2815     RETURN NEXT geometry;
2816     RETURN;
2817   END IF;
2818
2819   xmid := (xmin+xmax)/2;
2820   ymid := (ymin+ymax)/2;
2821
2822   added := 0;
2823   FOR seg IN 1..4 LOOP
2824
2825     IF seg = 1 THEN
2826       secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(xmin,ymin),ST_Point(xmid,ymid)),4326);
2827     END IF;
2828     IF seg = 2 THEN
2829       secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(xmin,ymid),ST_Point(xmid,ymax)),4326);
2830     END IF;
2831     IF seg = 3 THEN
2832       secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(xmid,ymin),ST_Point(xmax,ymid)),4326);
2833     END IF;
2834     IF seg = 4 THEN
2835       secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(xmid,ymid),ST_Point(xmax,ymax)),4326);
2836     END IF;
2837
2838     IF st_intersects(geometry, secbox) THEN
2839       secgeo := st_intersection(geometry, secbox);
2840       IF NOT ST_IsEmpty(secgeo) AND ST_GeometryType(secgeo) in ('ST_Polygon','ST_MultiPolygon') THEN
2841         FOR geo IN select quad_split_geometry(secgeo, maxarea, remainingdepth) as geom LOOP
2842           IF NOT ST_IsEmpty(geo.geom) AND ST_GeometryType(geo.geom) in ('ST_Polygon','ST_MultiPolygon') THEN
2843             added := added + 1;
2844             RETURN NEXT geo.geom;
2845           END IF;
2846         END LOOP;
2847       END IF;
2848     END IF;
2849   END LOOP;
2850
2851   RETURN;
2852 END;
2853 $$
2854 LANGUAGE plpgsql;
2855
2856 CREATE OR REPLACE FUNCTION split_geometry(geometry GEOMETRY)
2857   RETURNS SETOF GEOMETRY
2858   AS $$
2859 DECLARE
2860   geo RECORD;
2861 BEGIN
2862   -- 10000000000 is ~~ 1x1 degree
2863   FOR geo IN select quad_split_geometry(geometry, 0.25, 20) as geom LOOP
2864     RETURN NEXT geo.geom;
2865   END LOOP;
2866   RETURN;
2867 END;
2868 $$
2869 LANGUAGE plpgsql;