]> git.openstreetmap.org Git - nominatim.git/blob - sql/functions.sql
Merge remote-tracking branch 'upstream/master'
[nominatim.git] / sql / functions.sql
1 -- Splits the line at the given point and returns the two parts
2 -- in a multilinestring.
3 CREATE OR REPLACE FUNCTION split_line_on_node(line GEOMETRY, point GEOMETRY)
4 RETURNS GEOMETRY
5   AS $$
6 BEGIN
7   RETURN ST_Split(ST_Snap(line, point, 0.0005), point);
8 END;
9 $$
10 LANGUAGE plpgsql;
11
12
13 CREATE OR REPLACE FUNCTION geometry_sector(partition INTEGER, place geometry) RETURNS INTEGER
14   AS $$
15 DECLARE
16   NEWgeometry geometry;
17 BEGIN
18 --  RAISE WARNING '%',place;
19   NEWgeometry := ST_PointOnSurface(place);
20   RETURN (partition*1000000) + (500-ST_X(NEWgeometry)::integer)*1000 + (500-ST_Y(NEWgeometry)::integer);
21 END;
22 $$
23 LANGUAGE plpgsql IMMUTABLE;
24
25 CREATE OR REPLACE FUNCTION transliteration(text) RETURNS text
26   AS '{modulepath}/nominatim.so', 'transliteration'
27 LANGUAGE c IMMUTABLE STRICT;
28
29 CREATE OR REPLACE FUNCTION gettokenstring(text) RETURNS text
30   AS '{modulepath}/nominatim.so', 'gettokenstring'
31 LANGUAGE c IMMUTABLE STRICT;
32
33 CREATE OR REPLACE FUNCTION make_standard_name(name TEXT) RETURNS TEXT
34   AS $$
35 DECLARE
36   o TEXT;
37 BEGIN
38   o := gettokenstring(transliteration(name));
39   RETURN trim(substr(o,1,length(o)));
40 END;
41 $$
42 LANGUAGE 'plpgsql' IMMUTABLE;
43
44 -- returns NULL if the word is too common
45 CREATE OR REPLACE FUNCTION getorcreate_word_id(lookup_word TEXT) 
46   RETURNS INTEGER
47   AS $$
48 DECLARE
49   lookup_token TEXT;
50   return_word_id INTEGER;
51   count INTEGER;
52 BEGIN
53   lookup_token := trim(lookup_word);
54   SELECT min(word_id), max(search_name_count) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_id, count;
55   IF return_word_id IS NULL THEN
56     return_word_id := nextval('seq_word');
57     INSERT INTO word VALUES (return_word_id, lookup_token, null, null, null, null, 0);
58   ELSE
59     IF count > get_maxwordfreq() THEN
60       return_word_id := NULL;
61     END IF;
62   END IF;
63   RETURN return_word_id;
64 END;
65 $$
66 LANGUAGE plpgsql;
67
68 CREATE OR REPLACE FUNCTION getorcreate_housenumber_id(lookup_word TEXT)
69   RETURNS INTEGER
70   AS $$
71 DECLARE
72   lookup_token TEXT;
73   return_word_id INTEGER;
74 BEGIN
75   lookup_token := ' '||trim(lookup_word);
76   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class='place' and type='house' into return_word_id;
77   IF return_word_id IS NULL THEN
78     return_word_id := nextval('seq_word');
79     INSERT INTO word VALUES (return_word_id, lookup_token, null, 'place', 'house', null, 0);
80   END IF;
81   RETURN return_word_id;
82 END;
83 $$
84 LANGUAGE plpgsql;
85
86 CREATE OR REPLACE FUNCTION getorcreate_country(lookup_word TEXT, lookup_country_code varchar(2))
87   RETURNS INTEGER
88   AS $$
89 DECLARE
90   lookup_token TEXT;
91   return_word_id INTEGER;
92 BEGIN
93   lookup_token := ' '||trim(lookup_word);
94   SELECT min(word_id) FROM word WHERE word_token = lookup_token and country_code=lookup_country_code into return_word_id;
95   IF return_word_id IS NULL THEN
96     return_word_id := nextval('seq_word');
97     INSERT INTO word VALUES (return_word_id, lookup_token, null, null, null, lookup_country_code, 0);
98   END IF;
99   RETURN return_word_id;
100 END;
101 $$
102 LANGUAGE plpgsql;
103
104 CREATE OR REPLACE FUNCTION getorcreate_amenity(lookup_word TEXT, lookup_class text, lookup_type text)
105   RETURNS INTEGER
106   AS $$
107 DECLARE
108   lookup_token TEXT;
109   return_word_id INTEGER;
110 BEGIN
111   lookup_token := ' '||trim(lookup_word);
112   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class=lookup_class and type = lookup_type into return_word_id;
113   IF return_word_id IS NULL THEN
114     return_word_id := nextval('seq_word');
115     INSERT INTO word VALUES (return_word_id, lookup_token, null, lookup_class, lookup_type, null, 0);
116   END IF;
117   RETURN return_word_id;
118 END;
119 $$
120 LANGUAGE plpgsql;
121
122 CREATE OR REPLACE FUNCTION getorcreate_amenityoperator(lookup_word TEXT, lookup_class text, lookup_type text, op text)
123   RETURNS INTEGER
124   AS $$
125 DECLARE
126   lookup_token TEXT;
127   return_word_id INTEGER;
128 BEGIN
129   lookup_token := ' '||trim(lookup_word);
130   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class=lookup_class and type = lookup_type and operator = op into return_word_id;
131   IF return_word_id IS NULL THEN
132     return_word_id := nextval('seq_word');
133     INSERT INTO word VALUES (return_word_id, lookup_token, null, lookup_class, lookup_type, null, 0, op);
134   END IF;
135   RETURN return_word_id;
136 END;
137 $$
138 LANGUAGE plpgsql;
139
140 CREATE OR REPLACE FUNCTION getorcreate_name_id(lookup_word TEXT, src_word TEXT) 
141   RETURNS INTEGER
142   AS $$
143 DECLARE
144   lookup_token TEXT;
145   nospace_lookup_token TEXT;
146   return_word_id INTEGER;
147 BEGIN
148   lookup_token := ' '||trim(lookup_word);
149   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_id;
150   IF return_word_id IS NULL THEN
151     return_word_id := nextval('seq_word');
152     INSERT INTO word VALUES (return_word_id, lookup_token, src_word, null, null, null, 0);
153 --    nospace_lookup_token := replace(replace(lookup_token, '-',''), ' ','');
154 --    IF ' '||nospace_lookup_token != lookup_token THEN
155 --      INSERT INTO word VALUES (return_word_id, '-'||nospace_lookup_token, null, src_word, null, null, null, 0, null);
156 --    END IF;
157   END IF;
158   RETURN return_word_id;
159 END;
160 $$
161 LANGUAGE plpgsql;
162
163 CREATE OR REPLACE FUNCTION getorcreate_name_id(lookup_word TEXT) 
164   RETURNS INTEGER
165   AS $$
166 DECLARE
167 BEGIN
168   RETURN getorcreate_name_id(lookup_word, '');
169 END;
170 $$
171 LANGUAGE plpgsql;
172
173 CREATE OR REPLACE FUNCTION get_word_id(lookup_word TEXT) 
174   RETURNS INTEGER
175   AS $$
176 DECLARE
177   lookup_token TEXT;
178   return_word_id INTEGER;
179 BEGIN
180   lookup_token := trim(lookup_word);
181   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_id;
182   RETURN return_word_id;
183 END;
184 $$
185 LANGUAGE plpgsql IMMUTABLE;
186
187 CREATE OR REPLACE FUNCTION get_name_id(lookup_word TEXT) 
188   RETURNS INTEGER
189   AS $$
190 DECLARE
191   lookup_token TEXT;
192   return_word_id INTEGER;
193 BEGIN
194   lookup_token := ' '||trim(lookup_word);
195   SELECT min(word_id) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_id;
196   RETURN return_word_id;
197 END;
198 $$
199 LANGUAGE plpgsql IMMUTABLE;
200
201 CREATE OR REPLACE FUNCTION get_name_ids(lookup_word TEXT)
202   RETURNS INTEGER[]
203   AS $$
204 DECLARE
205   lookup_token TEXT;
206   return_word_ids INTEGER[];
207 BEGIN
208   lookup_token := ' '||trim(lookup_word);
209   SELECT array_agg(word_id) FROM word WHERE word_token = lookup_token and class is null and type is null into return_word_ids;
210   RETURN return_word_ids;
211 END;
212 $$
213 LANGUAGE plpgsql IMMUTABLE;
214
215 CREATE OR REPLACE FUNCTION array_merge(a INTEGER[], b INTEGER[])
216   RETURNS INTEGER[]
217   AS $$
218 DECLARE
219   i INTEGER;
220   r INTEGER[];
221 BEGIN
222   IF array_upper(a, 1) IS NULL THEN
223     RETURN b;
224   END IF;
225   IF array_upper(b, 1) IS NULL THEN
226     RETURN a;
227   END IF;
228   r := a;
229   FOR i IN 1..array_upper(b, 1) LOOP  
230     IF NOT (ARRAY[b[i]] <@ r) THEN
231       r := r || b[i];
232     END IF;
233   END LOOP;
234   RETURN r;
235 END;
236 $$
237 LANGUAGE plpgsql IMMUTABLE;
238
239 CREATE OR REPLACE FUNCTION create_country(src HSTORE, lookup_country_code varchar(2)) RETURNS VOID
240   AS $$
241 DECLARE
242   s TEXT;
243   w INTEGER;
244   words TEXT[];
245   item RECORD;
246   j INTEGER;
247 BEGIN
248   FOR item IN SELECT (each(src)).* LOOP
249
250     s := make_standard_name(item.value);
251     w := getorcreate_country(s, lookup_country_code);
252
253     words := regexp_split_to_array(item.value, E'[,;()]');
254     IF array_upper(words, 1) != 1 THEN
255       FOR j IN 1..array_upper(words, 1) LOOP
256         s := make_standard_name(words[j]);
257         IF s != '' THEN
258           w := getorcreate_country(s, lookup_country_code);
259         END IF;
260       END LOOP;
261     END IF;
262   END LOOP;
263 END;
264 $$
265 LANGUAGE plpgsql;
266
267 CREATE OR REPLACE FUNCTION make_keywords(src HSTORE) RETURNS INTEGER[]
268   AS $$
269 DECLARE
270   result INTEGER[];
271   s TEXT;
272   w INTEGER;
273   words TEXT[];
274   item RECORD;
275   j INTEGER;
276 BEGIN
277   result := '{}'::INTEGER[];
278
279   FOR item IN SELECT (each(src)).* LOOP
280
281     s := make_standard_name(item.value);
282
283     w := getorcreate_name_id(s, item.value);
284
285     IF not(ARRAY[w] <@ result) THEN
286       result := result || w;
287     END IF;
288
289     w := getorcreate_word_id(s);
290
291     IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
292       result := result || w;
293     END IF;
294
295     words := string_to_array(s, ' ');
296     IF array_upper(words, 1) IS NOT NULL THEN
297       FOR j IN 1..array_upper(words, 1) LOOP
298         IF (words[j] != '') THEN
299           w = getorcreate_word_id(words[j]);
300           IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
301             result := result || w;
302           END IF;
303         END IF;
304       END LOOP;
305     END IF;
306
307     words := regexp_split_to_array(item.value, E'[,;()]');
308     IF array_upper(words, 1) != 1 THEN
309       FOR j IN 1..array_upper(words, 1) LOOP
310         s := make_standard_name(words[j]);
311         IF s != '' THEN
312           w := getorcreate_word_id(s);
313           IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
314             result := result || w;
315           END IF;
316         END IF;
317       END LOOP;
318     END IF;
319
320     s := regexp_replace(item.value, '市$', '');
321     IF s != item.value THEN
322       s := make_standard_name(s);
323       IF s != '' THEN
324         w := getorcreate_name_id(s, item.value);
325         IF NOT (ARRAY[w] <@ result) THEN
326           result := result || w;
327         END IF;
328       END IF;
329     END IF;
330
331   END LOOP;
332
333   RETURN result;
334 END;
335 $$
336 LANGUAGE plpgsql IMMUTABLE;
337
338 CREATE OR REPLACE FUNCTION make_keywords(src TEXT) RETURNS INTEGER[]
339   AS $$
340 DECLARE
341   result INTEGER[];
342   s TEXT;
343   w INTEGER;
344   words TEXT[];
345   i INTEGER;
346   j INTEGER;
347 BEGIN
348   result := '{}'::INTEGER[];
349
350   s := make_standard_name(src);
351   w := getorcreate_name_id(s, src);
352
353   IF NOT (ARRAY[w] <@ result) THEN
354     result := result || w;
355   END IF;
356
357   w := getorcreate_word_id(s);
358
359   IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
360     result := result || w;
361   END IF;
362
363   words := string_to_array(s, ' ');
364   IF array_upper(words, 1) IS NOT NULL THEN
365     FOR j IN 1..array_upper(words, 1) LOOP
366       IF (words[j] != '') THEN
367         w = getorcreate_word_id(words[j]);
368         IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
369           result := result || w;
370         END IF;
371       END IF;
372     END LOOP;
373   END IF;
374
375   words := regexp_split_to_array(src, E'[,;()]');
376   IF array_upper(words, 1) != 1 THEN
377     FOR j IN 1..array_upper(words, 1) LOOP
378       s := make_standard_name(words[j]);
379       IF s != '' THEN
380         w := getorcreate_word_id(s);
381         IF w IS NOT NULL AND NOT (ARRAY[w] <@ result) THEN
382           result := result || w;
383         END IF;
384       END IF;
385     END LOOP;
386   END IF;
387
388   s := regexp_replace(src, '市$', '');
389   IF s != src THEN
390     s := make_standard_name(s);
391     IF s != '' THEN
392       w := getorcreate_name_id(s, src);
393       IF NOT (ARRAY[w] <@ result) THEN
394         result := result || w;
395       END IF;
396     END IF;
397   END IF;
398
399   RETURN result;
400 END;
401 $$
402 LANGUAGE plpgsql IMMUTABLE;
403
404 CREATE OR REPLACE FUNCTION get_country_code(place geometry) RETURNS TEXT
405   AS $$
406 DECLARE
407   place_centre GEOMETRY;
408   nearcountry RECORD;
409 BEGIN
410   place_centre := ST_PointOnSurface(place);
411
412 --DEBUG: RAISE WARNING 'get_country_code, start: %', ST_AsText(place_centre);
413
414   -- Try for a OSM polygon
415   FOR nearcountry IN select country_code from location_area_country where country_code is not null and not isguess and st_covers(geometry, place_centre) limit 1
416   LOOP
417     RETURN nearcountry.country_code;
418   END LOOP;
419
420 --DEBUG: RAISE WARNING 'osm fallback: %', ST_AsText(place_centre);
421
422   -- Try for OSM fallback data
423   -- The order is to deal with places like HongKong that are 'states' within another polygon
424   FOR nearcountry IN select country_code from country_osm_grid where st_covers(geometry, place_centre) order by area asc limit 1
425   LOOP
426     RETURN nearcountry.country_code;
427   END LOOP;
428
429 --DEBUG: RAISE WARNING 'natural earth: %', ST_AsText(place_centre);
430
431   -- Natural earth data
432   FOR nearcountry IN select country_code from country_naturalearthdata where st_covers(geometry, place_centre) limit 1
433   LOOP
434     RETURN nearcountry.country_code;
435   END LOOP;
436
437 --DEBUG: RAISE WARNING 'near osm fallback: %', ST_AsText(place_centre);
438
439   -- 
440   FOR nearcountry IN select country_code from country_osm_grid where st_dwithin(geometry, place_centre, 0.5) order by st_distance(geometry, place_centre) asc, area asc limit 1
441   LOOP
442     RETURN nearcountry.country_code;
443   END LOOP;
444
445 --DEBUG: RAISE WARNING 'near natural earth: %', ST_AsText(place_centre);
446
447   -- Natural earth data 
448   FOR nearcountry IN select country_code from country_naturalearthdata where st_dwithin(geometry, place_centre, 0.5) limit 1
449   LOOP
450     RETURN nearcountry.country_code;
451   END LOOP;
452
453   RETURN NULL;
454 END;
455 $$
456 LANGUAGE plpgsql IMMUTABLE;
457
458 CREATE OR REPLACE FUNCTION get_country_language_code(search_country_code VARCHAR(2)) RETURNS TEXT
459   AS $$
460 DECLARE
461   nearcountry RECORD;
462 BEGIN
463   FOR nearcountry IN select distinct country_default_language_code from country_name where country_code = search_country_code limit 1
464   LOOP
465     RETURN lower(nearcountry.country_default_language_code);
466   END LOOP;
467   RETURN NULL;
468 END;
469 $$
470 LANGUAGE plpgsql IMMUTABLE;
471
472 CREATE OR REPLACE FUNCTION get_country_language_codes(search_country_code VARCHAR(2)) RETURNS TEXT[]
473   AS $$
474 DECLARE
475   nearcountry RECORD;
476 BEGIN
477   FOR nearcountry IN select country_default_language_codes from country_name where country_code = search_country_code limit 1
478   LOOP
479     RETURN lower(nearcountry.country_default_language_codes);
480   END LOOP;
481   RETURN NULL;
482 END;
483 $$
484 LANGUAGE plpgsql IMMUTABLE;
485
486 CREATE OR REPLACE FUNCTION get_partition(in_country_code VARCHAR(10)) RETURNS INTEGER
487   AS $$
488 DECLARE
489   nearcountry RECORD;
490 BEGIN
491   FOR nearcountry IN select partition from country_name where country_code = in_country_code
492   LOOP
493     RETURN nearcountry.partition;
494   END LOOP;
495   RETURN 0;
496 END;
497 $$
498 LANGUAGE plpgsql IMMUTABLE;
499
500 CREATE OR REPLACE FUNCTION delete_location(OLD_place_id BIGINT) RETURNS BOOLEAN
501   AS $$
502 DECLARE
503 BEGIN
504   DELETE FROM location_area where place_id = OLD_place_id;
505 -- TODO:location_area
506   RETURN true;
507 END;
508 $$
509 LANGUAGE plpgsql;
510
511 CREATE OR REPLACE FUNCTION add_location(
512     place_id BIGINT,
513     country_code varchar(2),
514     partition INTEGER,
515     keywords INTEGER[],
516     rank_search INTEGER,
517     rank_address INTEGER,
518     geometry GEOMETRY
519   ) 
520   RETURNS BOOLEAN
521   AS $$
522 DECLARE
523   locationid INTEGER;
524   isarea BOOLEAN;
525   centroid GEOMETRY;
526   diameter FLOAT;
527   x BOOLEAN;
528   splitGeom RECORD;
529   secgeo GEOMETRY;
530 BEGIN
531
532   IF rank_search > 25 THEN
533     RAISE EXCEPTION 'Adding location with rank > 25 (% rank %)', place_id, rank_search;
534   END IF;
535
536 --  RAISE WARNING 'Adding location with rank > 25 (% rank %)', place_id, rank_search;
537
538   x := deleteLocationArea(partition, place_id, rank_search);
539
540   isarea := false;
541   IF (ST_GeometryType(geometry) in ('ST_Polygon','ST_MultiPolygon') AND ST_IsValid(geometry)) THEN
542
543     isArea := true;
544     centroid := ST_Centroid(geometry);
545
546     FOR secgeo IN select split_geometry(geometry) AS geom LOOP
547       x := insertLocationAreaLarge(partition, place_id, country_code, keywords, rank_search, rank_address, false, centroid, secgeo);
548     END LOOP;
549
550   ELSE
551
552     diameter := 0.02;
553     IF rank_address = 0 THEN
554       diameter := 0.02;
555     ELSEIF rank_search <= 14 THEN
556       diameter := 1.2;
557     ELSEIF rank_search <= 15 THEN
558       diameter := 1;
559     ELSEIF rank_search <= 16 THEN
560       diameter := 0.5;
561     ELSEIF rank_search <= 17 THEN
562       diameter := 0.2;
563     ELSEIF rank_search <= 21 THEN
564       diameter := 0.05;
565     ELSEIF rank_search = 25 THEN
566       diameter := 0.005;
567     END IF;
568
569 --    RAISE WARNING 'adding % diameter %', place_id, diameter;
570
571     secgeo := ST_Buffer(geometry, diameter);
572     x := insertLocationAreaLarge(partition, place_id, country_code, keywords, rank_search, rank_address, true, ST_Centroid(geometry), secgeo);
573
574   END IF;
575
576   RETURN true;
577 END;
578 $$
579 LANGUAGE plpgsql;
580
581
582 -- find the parent road of the cut road parts
583 CREATE OR REPLACE FUNCTION get_interpolation_parent(wayid BIGINT, street TEXT, place TEXT,
584                                                     partition INTEGER, centroid GEOMETRY, geom GEOMETRY)
585 RETURNS BIGINT AS $$
586 DECLARE
587   addr_street TEXT;
588   addr_place TEXT;
589   parent_place_id BIGINT;
590   address_street_word_ids INTEGER[];
591
592   waynodes BIGINT[];
593
594   location RECORD;
595 BEGIN
596   addr_street = street;
597   addr_place = place;
598
599   IF addr_street is null and addr_place is null THEN
600     select nodes from planet_osm_ways where id = wayid INTO waynodes;
601     FOR location IN SELECT placex.street, placex.addr_place from placex
602                     where osm_type = 'N' and osm_id = ANY(waynodes)
603                           and (placex.street is not null or placex.addr_place is not null)
604                           and indexed_status < 100
605                     limit 1 LOOP
606       addr_street = location.street;
607       addr_place = location.addr_place;
608     END LOOP;
609   END IF;
610
611   IF addr_street IS NOT NULL THEN
612     address_street_word_ids := get_name_ids(make_standard_name(addr_street));
613     IF address_street_word_ids IS NOT NULL THEN
614       FOR location IN SELECT place_id from getNearestNamedRoadFeature(partition, centroid, address_street_word_ids) LOOP
615         parent_place_id := location.place_id;
616       END LOOP;
617     END IF;
618   END IF;
619
620   IF parent_place_id IS NULL AND addr_place IS NOT NULL THEN
621     address_street_word_ids := get_name_ids(make_standard_name(addr_place));
622     IF address_street_word_ids IS NOT NULL THEN
623       FOR location IN SELECT place_id from getNearestNamedPlaceFeature(partition, centroid, address_street_word_ids) LOOP
624         parent_place_id := location.place_id;
625       END LOOP;
626     END IF;
627   END IF;
628
629   IF parent_place_id is null THEN
630     FOR location IN SELECT place_id FROM placex
631         WHERE ST_DWithin(geom, placex.geometry, 0.001) and placex.rank_search = 26
632         ORDER BY (ST_distance(placex.geometry, ST_LineInterpolatePoint(geom,0))+
633                   ST_distance(placex.geometry, ST_LineInterpolatePoint(geom,0.5))+
634                   ST_distance(placex.geometry, ST_LineInterpolatePoint(geom,1))) ASC limit 1
635     LOOP
636       parent_place_id := location.place_id;
637     END LOOP;
638   END IF;
639
640   IF parent_place_id is null THEN
641     RETURN 0;
642   END IF;
643
644   RETURN parent_place_id;
645 END;
646 $$
647 LANGUAGE plpgsql;
648
649
650 CREATE OR REPLACE FUNCTION osmline_insert() RETURNS TRIGGER
651   AS $$
652 BEGIN
653   NEW.place_id := nextval('seq_place');
654   NEW.indexed_date := now();
655
656   IF NEW.indexed_status IS NULL THEN
657       IF NEW.interpolationtype NOT IN ('odd', 'even', 'all') THEN
658         -- other interpolation types than odd/even/all (e.g. numeric ones) are not supported
659         RETURN NULL;
660       END IF;
661
662       NEW.indexed_status := 1; --STATUS_NEW
663
664       NEW.calculated_country_code := lower(get_country_code(NEW.linegeo));
665
666       NEW.partition := get_partition(NEW.calculated_country_code);
667       NEW.geometry_sector := geometry_sector(NEW.partition, NEW.linegeo);
668   END IF;
669
670   RETURN NEW;
671 END;
672 $$
673 LANGUAGE plpgsql;
674
675
676 CREATE OR REPLACE FUNCTION placex_insert() RETURNS TRIGGER
677   AS $$
678 DECLARE
679   i INTEGER;
680   postcode TEXT;
681   result BOOLEAN;
682   country_code VARCHAR(2);
683   default_language VARCHAR(10);
684   diameter FLOAT;
685   classtable TEXT;
686   line RECORD;
687 BEGIN
688   --DEBUG: RAISE WARNING '% % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type;
689
690   NEW.place_id := nextval('seq_place');
691   NEW.indexed_status := 1; --STATUS_NEW
692
693   NEW.calculated_country_code := lower(get_country_code(NEW.geometry));
694
695   NEW.partition := get_partition(NEW.calculated_country_code);
696   NEW.geometry_sector := geometry_sector(NEW.partition, NEW.geometry);
697
698   -- copy 'name' to or from the default language (if there is a default language)
699   IF NEW.name is not null AND array_upper(akeys(NEW.name),1) > 1 THEN
700     default_language := get_country_language_code(NEW.calculated_country_code);
701     IF default_language IS NOT NULL THEN
702       IF NEW.name ? 'name' AND NOT NEW.name ? ('name:'||default_language) THEN
703         NEW.name := NEW.name || hstore(('name:'||default_language), (NEW.name -> 'name'));
704       ELSEIF NEW.name ? ('name:'||default_language) AND NOT NEW.name ? 'name' THEN
705         NEW.name := NEW.name || hstore('name', (NEW.name -> ('name:'||default_language)));
706       END IF;
707     END IF;
708   END IF;
709
710   IF NEW.admin_level > 15 THEN
711     NEW.admin_level := 15;
712   END IF;
713
714   IF NEW.housenumber IS NOT NULL THEN
715     i := getorcreate_housenumber_id(make_standard_name(NEW.housenumber));
716   END IF;
717
718   IF NEW.osm_type = 'X' THEN
719     -- E'X'ternal records should already be in the right format so do nothing
720   ELSE
721     NEW.rank_search := 30;
722     NEW.rank_address := NEW.rank_search;
723
724     -- By doing in postgres we have the country available to us - currently only used for postcode
725     IF NEW.class in ('place','boundary') AND NEW.type in ('postcode','postal_code') THEN
726
727         IF NEW.postcode IS NULL THEN
728             -- most likely just a part of a multipolygon postcode boundary, throw it away
729             RETURN NULL;
730         END IF;
731
732         NEW.name := hstore('ref', NEW.postcode);
733
734         IF NEW.calculated_country_code = 'gb' THEN
735
736           IF NEW.postcode ~ '^([A-Z][A-Z]?[0-9][0-9A-Z]? [0-9][A-Z][A-Z])$' THEN
737             NEW.rank_search := 25;
738             NEW.rank_address := 5;
739           ELSEIF NEW.postcode ~ '^([A-Z][A-Z]?[0-9][0-9A-Z]? [0-9])$' THEN
740             NEW.rank_search := 23;
741             NEW.rank_address := 5;
742           ELSEIF NEW.postcode ~ '^([A-Z][A-Z]?[0-9][0-9A-Z])$' THEN
743             NEW.rank_search := 21;
744             NEW.rank_address := 5;
745           END IF;
746
747         ELSEIF NEW.calculated_country_code = 'sg' THEN
748
749           IF NEW.postcode ~ '^([0-9]{6})$' THEN
750             NEW.rank_search := 25;
751             NEW.rank_address := 11;
752           END IF;
753
754         ELSEIF NEW.calculated_country_code = 'de' THEN
755
756           IF NEW.postcode ~ '^([0-9]{5})$' THEN
757             NEW.rank_search := 21;
758             NEW.rank_address := 11;
759           END IF;
760
761         ELSE
762           -- Guess at the postcode format and coverage (!)
763           IF upper(NEW.postcode) ~ '^[A-Z0-9]{1,5}$' THEN -- Probably too short to be very local
764             NEW.rank_search := 21;
765             NEW.rank_address := 11;
766           ELSE
767             -- Does it look splitable into and area and local code?
768             postcode := substring(upper(NEW.postcode) from '^([- :A-Z0-9]+)([- :][A-Z0-9]+)$');
769
770             IF postcode IS NOT NULL THEN
771               NEW.rank_search := 25;
772               NEW.rank_address := 11;
773             ELSEIF NEW.postcode ~ '^[- :A-Z0-9]{6,}$' THEN
774               NEW.rank_search := 21;
775               NEW.rank_address := 11;
776             END IF;
777           END IF;
778         END IF;
779
780     ELSEIF NEW.class = 'place' THEN
781       IF NEW.type in ('continent') THEN
782         NEW.rank_search := 2;
783         NEW.rank_address := NEW.rank_search;
784         NEW.calculated_country_code := NULL;
785       ELSEIF NEW.type in ('sea') THEN
786         NEW.rank_search := 2;
787         NEW.rank_address := 0;
788         NEW.calculated_country_code := NULL;
789       ELSEIF NEW.type in ('country') THEN
790         NEW.rank_search := 4;
791         NEW.rank_address := NEW.rank_search;
792       ELSEIF NEW.type in ('state') THEN
793         NEW.rank_search := 8;
794         NEW.rank_address := NEW.rank_search;
795       ELSEIF NEW.type in ('region') THEN
796         NEW.rank_search := 18; -- dropped from previous value of 10
797         NEW.rank_address := 0; -- So badly miss-used that better to just drop it!
798       ELSEIF NEW.type in ('county') THEN
799         NEW.rank_search := 12;
800         NEW.rank_address := NEW.rank_search;
801       ELSEIF NEW.type in ('city') THEN
802         NEW.rank_search := 16;
803         NEW.rank_address := NEW.rank_search;
804       ELSEIF NEW.type in ('island') THEN
805         NEW.rank_search := 17;
806         NEW.rank_address := 0;
807       ELSEIF NEW.type in ('town') THEN
808         NEW.rank_search := 18;
809         NEW.rank_address := 16;
810       ELSEIF NEW.type in ('village','hamlet','municipality','district','unincorporated_area','borough') THEN
811         NEW.rank_search := 19;
812         NEW.rank_address := 16;
813       ELSEIF NEW.type in ('suburb','croft','subdivision','isolated_dwelling') THEN
814         NEW.rank_search := 20;
815         NEW.rank_address := NEW.rank_search;
816       ELSEIF NEW.type in ('farm','locality','islet','mountain_pass') THEN
817         NEW.rank_search := 20;
818         NEW.rank_address := 0;
819         -- Irish townlands, tagged as place=locality and locality=townland
820         IF (NEW.extratags -> 'locality') = 'townland' THEN
821           NEW.rank_address := 20;
822         END IF;
823       ELSEIF NEW.type in ('neighbourhood') THEN
824         NEW.rank_search := 22;
825         NEW.rank_address := 22;
826       ELSEIF NEW.type in ('house','building') THEN
827         NEW.rank_search := 30;
828         NEW.rank_address := NEW.rank_search;
829       ELSEIF NEW.type in ('houses') THEN
830         -- can't guarantee all required nodes loaded yet due to caching in osm2pgsql
831         NEW.rank_search := 28;
832         NEW.rank_address := 0;
833       END IF;
834
835     ELSEIF NEW.class = 'boundary' THEN
836       IF ST_GeometryType(NEW.geometry) NOT IN ('ST_Polygon','ST_MultiPolygon') THEN
837 --        RAISE WARNING 'invalid boundary %',NEW.osm_id;
838         return NULL;
839       END IF;
840       NEW.rank_search := NEW.admin_level * 2;
841       IF NEW.type = 'administrative' THEN
842         NEW.rank_address := NEW.rank_search;
843       ELSE
844         NEW.rank_address := 0;
845       END IF;
846     ELSEIF NEW.class = 'landuse' AND ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') THEN
847       NEW.rank_search := 22;
848       IF NEW.type in ('residential', 'farm', 'farmyard', 'industrial', 'commercial', 'allotments', 'retail') THEN
849         NEW.rank_address := NEW.rank_search;
850       ELSE
851         NEW.rank_address := 0;
852       END IF;
853     ELSEIF NEW.class = 'natural' and NEW.type in ('peak','volcano','mountain_range') THEN
854       NEW.rank_search := 18;
855       NEW.rank_address := 0;
856     ELSEIF NEW.class = 'natural' and NEW.type = 'sea' THEN
857       NEW.rank_search := 4;
858       NEW.rank_address := NEW.rank_search;
859     -- any feature more than 5 square miles is probably worth indexing
860     ELSEIF ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') AND ST_Area(NEW.geometry) > 0.1 THEN
861       NEW.rank_search := 22;
862       NEW.rank_address := 0;
863     ELSEIF NEW.class = 'railway' AND NEW.type in ('rail') THEN
864       RETURN NULL;
865     ELSEIF NEW.class = 'waterway' THEN
866       IF NEW.osm_type = 'R' THEN
867         NEW.rank_search := 16;
868       ELSE
869         NEW.rank_search := 17;
870       END IF;
871       NEW.rank_address := 0;
872     ELSEIF NEW.class = 'highway' AND NEW.osm_type != 'N' AND NEW.type in ('service','cycleway','path','footway','steps','bridleway','motorway_link','primary_link','trunk_link','secondary_link','tertiary_link') THEN
873       NEW.rank_search := 27;
874       NEW.rank_address := NEW.rank_search;
875     ELSEIF NEW.class = 'highway' AND NEW.osm_type != 'N' THEN
876       NEW.rank_search := 26;
877       NEW.rank_address := NEW.rank_search;
878     ELSEIF NEW.class = 'mountain_pass' THEN
879         NEW.rank_search := 20;
880         NEW.rank_address := 0;
881     END IF;
882
883   END IF;
884
885   IF NEW.rank_search > 30 THEN
886     NEW.rank_search := 30;
887   END IF;
888
889   IF NEW.rank_address > 30 THEN
890     NEW.rank_address := 30;
891   END IF;
892
893   IF (NEW.extratags -> 'capital') = 'yes' THEN
894     NEW.rank_search := NEW.rank_search - 1;
895   END IF;
896
897   -- a country code make no sense below rank 4 (country)
898   IF NEW.rank_search < 4 THEN
899     NEW.calculated_country_code := NULL;
900   END IF;
901
902 -- Block import below rank 22
903 --  IF NEW.rank_search > 22 THEN
904 --    RETURN NULL;
905 --  END IF;
906
907   --DEBUG: RAISE WARNING 'placex_insert:END: % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type;
908
909   RETURN NEW; -- %DIFFUPDATES% The following is not needed until doing diff updates, and slows the main index process down
910
911   IF NEW.rank_address > 0 THEN
912     IF (ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') AND ST_IsValid(NEW.geometry)) THEN
913       -- Performance: We just can't handle re-indexing for country level changes
914       IF st_area(NEW.geometry) < 1 THEN
915         -- mark items within the geometry for re-indexing
916   --    RAISE WARNING 'placex poly insert: % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type;
917
918         -- work around bug in postgis, this may have been fixed in 2.0.0 (see http://trac.osgeo.org/postgis/ticket/547)
919         update placex set indexed_status = 2 where (st_covers(NEW.geometry, placex.geometry) OR ST_Intersects(NEW.geometry, placex.geometry)) 
920          AND rank_search > NEW.rank_search and indexed_status = 0 and ST_geometrytype(placex.geometry) = 'ST_Point' and (rank_search < 28 or name is not null or (NEW.rank_search >= 16 and addr_place is not null));
921         update placex set indexed_status = 2 where (st_covers(NEW.geometry, placex.geometry) OR ST_Intersects(NEW.geometry, placex.geometry)) 
922          AND rank_search > NEW.rank_search and indexed_status = 0 and ST_geometrytype(placex.geometry) != 'ST_Point' and (rank_search < 28 or name is not null or (NEW.rank_search >= 16 and addr_place is not null));
923       END IF;
924     ELSE
925       -- mark nearby items for re-indexing, where 'nearby' depends on the features rank_search and is a complete guess :(
926       diameter := 0;
927       -- 16 = city, anything higher than city is effectively ignored (polygon required!)
928       IF NEW.type='postcode' THEN
929         diameter := 0.05;
930       ELSEIF NEW.rank_search < 16 THEN
931         diameter := 0;
932       ELSEIF NEW.rank_search < 18 THEN
933         diameter := 0.1;
934       ELSEIF NEW.rank_search < 20 THEN
935         diameter := 0.05;
936       ELSEIF NEW.rank_search = 21 THEN
937         diameter := 0.001;
938       ELSEIF NEW.rank_search < 24 THEN
939         diameter := 0.02;
940       ELSEIF NEW.rank_search < 26 THEN
941         diameter := 0.002; -- 100 to 200 meters
942       ELSEIF NEW.rank_search < 28 THEN
943         diameter := 0.001; -- 50 to 100 meters
944       END IF;
945       IF diameter > 0 THEN
946   --      RAISE WARNING 'placex point insert: % % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type,diameter;
947         IF NEW.rank_search >= 26 THEN
948           -- roads may cause reparenting for >27 rank places
949           update placex set indexed_status = 2 where indexed_status = 0 and rank_search > NEW.rank_search and ST_DWithin(placex.geometry, NEW.geometry, diameter);
950           -- reparenting also for OSM Interpolation Lines (and for Tiger?)
951           update location_property_osmline set indexed_status = 2 where indexed_status = 0 and ST_DWithin(location_property_osmline.linegeo, NEW.geometry, diameter);
952         ELSEIF NEW.rank_search >= 16 THEN
953           -- up to rank 16, street-less addresses may need reparenting
954           update placex set indexed_status = 2 where indexed_status = 0 and rank_search > NEW.rank_search and ST_DWithin(placex.geometry, NEW.geometry, diameter) and (rank_search < 28 or name is not null or addr_place is not null);
955         ELSE
956           -- for all other places the search terms may change as well
957           update placex set indexed_status = 2 where indexed_status = 0 and rank_search > NEW.rank_search and ST_DWithin(placex.geometry, NEW.geometry, diameter) and (rank_search < 28 or name is not null);
958         END IF;
959       END IF;
960     END IF;
961   END IF;
962
963
964    -- add to tables for special search
965    -- Note: won't work on initial import because the classtype tables
966    -- do not yet exist. It won't hurt either.
967   classtable := 'place_classtype_' || NEW.class || '_' || NEW.type;
968   SELECT count(*)>0 FROM pg_tables WHERE tablename = classtable and schemaname = current_schema() INTO result;
969   IF result THEN
970     EXECUTE 'INSERT INTO ' || classtable::regclass || ' (place_id, centroid) VALUES ($1,$2)' 
971     USING NEW.place_id, ST_Centroid(NEW.geometry);
972   END IF;
973
974   RETURN NEW;
975
976 END;
977 $$
978 LANGUAGE plpgsql;
979
980 CREATE OR REPLACE FUNCTION osmline_update() RETURNS 
981 TRIGGER
982   AS $$
983 DECLARE
984   place_centroid GEOMETRY;
985   waynodes BIGINT[];
986   prevnode RECORD;
987   nextnode RECORD;
988   startnumber INTEGER;
989   endnumber INTEGER;
990   housenum INTEGER;
991   linegeo GEOMETRY;
992   splitline GEOMETRY;
993   sectiongeo GEOMETRY;
994   street TEXT;
995   addr_place TEXT;
996   postcode TEXT;
997 BEGIN
998   -- deferred delete
999   IF OLD.indexed_status = 100 THEN
1000     delete from location_property_osmline where place_id = OLD.place_id;
1001     RETURN NULL;
1002   END IF;
1003
1004   IF NEW.indexed_status != 0 OR OLD.indexed_status = 0 THEN
1005     RETURN NEW;
1006   END IF;
1007
1008   -- do the reparenting: (finally here, because ALL places in placex,
1009   -- that are needed for reparenting, need to be up to date)
1010   -- (the osm interpolationline in location_property_osmline was marked for
1011   --  reparenting in placex_insert/placex_delete with index_status = 1 or 2 (1 inset, 2 delete)
1012   -- => index.c: sets index_status back to 0
1013   -- => triggers this function)
1014   place_centroid := ST_PointOnSurface(NEW.linegeo);
1015   -- marking descendants for reparenting is not needed, because there are
1016   -- actually no descendants for interpolation lines
1017   NEW.parent_place_id = get_interpolation_parent(NEW.osm_id, NEW.street, NEW.addr_place,
1018                                                  NEW.partition, place_centroid, NEW.linegeo);
1019
1020   -- if we are just updating then our work is done
1021   IF OLD.indexed_status != 1 THEN
1022       return NEW;
1023   END IF;
1024
1025   -- otherwise split the line as necessary
1026   select nodes from planet_osm_ways where id = NEW.osm_id INTO waynodes;
1027
1028   IF array_upper(waynodes, 1) IS NULL THEN
1029     RETURN NEW;
1030   END IF;
1031
1032   linegeo := NEW.linegeo;
1033   startnumber := NULL;
1034   street := NEW.street;
1035   addr_place := NEW.addr_place;
1036   postcode := NEW.postcode;
1037
1038   FOR nodeidpos in 1..array_upper(waynodes, 1) LOOP
1039
1040     select * from place where osm_type = 'N' and osm_id = waynodes[nodeidpos]::BIGINT
1041                                and housenumber is not NULL limit 1 INTO nextnode;
1042     --RAISE NOTICE 'Nextnode.place_id: %s', nextnode.place_id;
1043     IF nextnode.osm_id IS NOT NULL THEN
1044       --RAISE NOTICE 'place_id is not null';
1045       IF nodeidpos > 1 and nodeidpos < array_upper(waynodes, 1) THEN
1046         -- Make sure that the point is actually on the line. That might
1047         -- be a bit paranoid but ensures that the algorithm still works
1048         -- should osm2pgsql attempt to repair geometries.
1049         splitline := split_line_on_node(linegeo, nextnode.geometry);
1050         sectiongeo := ST_GeometryN(splitline, 1);
1051         linegeo := ST_GeometryN(splitline, 2);
1052       ELSE
1053         sectiongeo = linegeo;
1054       END IF;
1055       endnumber := substring(nextnode.housenumber,'[0-9]+')::integer;
1056
1057       IF startnumber IS NOT NULL AND endnumber IS NOT NULL
1058          AND startnumber != endnumber
1059          AND ST_GeometryType(sectiongeo) = 'ST_LineString' THEN
1060
1061         IF (startnumber > endnumber) THEN
1062           housenum := endnumber;
1063           endnumber := startnumber;
1064           startnumber := housenum;
1065           sectiongeo := ST_Reverse(sectiongeo);
1066         END IF;
1067
1068         IF NEW.startnumber IS NULL THEN
1069             NEW.startnumber := startnumber;
1070             NEW.endnumber := endnumber;
1071             NEW.linegeo := sectiongeo;
1072             NEW.street := coalesce(street, prevnode.street, nextnode.street);
1073             NEW.addr_place := coalesce(addr_place, prevnode.addr_place, nextnode.addr_place);
1074             NEW.postcode := coalesce(postcode, prevnode.postcode, nextnode.postcode);
1075          ELSE
1076           insert into location_property_osmline
1077                  (linegeo, partition, osm_id, parent_place_id,
1078                   startnumber, endnumber, interpolationtype,
1079                   street, addr_place, postcode, calculated_country_code,
1080                   geometry_sector, indexed_status)
1081           values (sectiongeo, NEW.partition, NEW.osm_id, NEW.parent_place_id,
1082                   startnumber, endnumber, NEW.interpolationtype,
1083                   coalesce(street, prevnode.street, nextnode.street),
1084                   coalesce(addr_place, prevnode.addr_place, nextnode.addr_place),
1085                   coalesce(postcode, prevnode.postcode, nextnode.postcode),
1086                   NEW.calculated_country_code, NEW.geometry_sector, 0);
1087          END IF;
1088       END IF;
1089
1090       -- early break if we are out of line string,
1091       -- might happen when a line string loops back on itself
1092       IF ST_GeometryType(linegeo) != 'ST_LineString' THEN
1093           RETURN NEW;
1094       END IF;
1095
1096       startnumber := substring(nextnode.housenumber,'[0-9]+')::integer;
1097       prevnode := nextnode;
1098     END IF;
1099   END LOOP;
1100
1101   RETURN NEW;
1102 END;
1103 $$
1104 LANGUAGE plpgsql;
1105
1106
1107
1108 CREATE OR REPLACE FUNCTION placex_update() RETURNS
1109 TRIGGER
1110   AS $$
1111 DECLARE
1112
1113   place_centroid GEOMETRY;
1114
1115   search_maxdistance FLOAT[];
1116   search_mindistance FLOAT[];
1117   address_havelevel BOOLEAN[];
1118
1119   i INTEGER;
1120   iMax FLOAT;
1121   location RECORD;
1122   way RECORD;
1123   relation RECORD;
1124   relation_members TEXT[];
1125   relMember RECORD;
1126   linkedplacex RECORD;
1127   search_diameter FLOAT;
1128   search_prevdiameter FLOAT;
1129   search_maxrank INTEGER;
1130   address_maxrank INTEGER;
1131   address_street_word_id INTEGER;
1132   address_street_word_ids INTEGER[];
1133   parent_place_id_rank BIGINT;
1134   
1135   isin TEXT[];
1136   isin_tokens INT[];
1137
1138   location_rank_search INTEGER;
1139   location_distance FLOAT;
1140   location_parent GEOMETRY;
1141   location_isaddress BOOLEAN;
1142   location_keywords INTEGER[];
1143
1144   default_language TEXT;
1145   name_vector INTEGER[];
1146   nameaddress_vector INTEGER[];
1147
1148   linked_node_id BIGINT;
1149
1150   result BOOLEAN;
1151 BEGIN
1152   -- deferred delete
1153   IF OLD.indexed_status = 100 THEN
1154     --DEBUG: RAISE WARNING 'placex_update_delete % %',NEW.osm_type,NEW.osm_id;
1155     delete from placex where place_id = OLD.place_id;
1156     RETURN NULL;
1157   END IF;
1158
1159   IF NEW.indexed_status != 0 OR OLD.indexed_status = 0 THEN
1160     RETURN NEW;
1161   END IF;
1162
1163   -- ignore interpolated addresses
1164   IF NEW.class = 'place' and NEW.type = 'address' THEN
1165     RETURN NEW;
1166   END IF;
1167
1168   --DEBUG: RAISE WARNING 'placex_update % %',NEW.osm_type,NEW.osm_id;
1169
1170 --RAISE WARNING '%',NEW.place_id;
1171 --RAISE WARNING '%', NEW;
1172
1173   IF NEW.class = 'place' AND NEW.type = 'postcodearea' THEN
1174     -- Silently do nothing
1175     RETURN NEW;
1176   END IF;
1177
1178   NEW.indexed_date = now();
1179
1180   result := deleteSearchName(NEW.partition, NEW.place_id);
1181   DELETE FROM place_addressline WHERE place_id = NEW.place_id;
1182   result := deleteRoad(NEW.partition, NEW.place_id);
1183   result := deleteLocationArea(NEW.partition, NEW.place_id, NEW.rank_search);
1184   UPDATE placex set linked_place_id = null, indexed_status = 2
1185          where linked_place_id = NEW.place_id;
1186   -- update not necessary for osmline, cause linked_place_id does not exist
1187
1188   IF NEW.linked_place_id is not null THEN
1189     RETURN NEW;
1190   END IF;
1191
1192   -- Speed up searches - just use the centroid of the feature
1193   -- cheaper but less acurate
1194   place_centroid := ST_PointOnSurface(NEW.geometry);
1195   NEW.centroid := null;
1196
1197   -- recalculate country and partition
1198   IF NEW.rank_search = 4 THEN
1199     -- for countries, believe the mapped country code,
1200     -- so that we remain in the right partition if the boundaries
1201     -- suddenly expand.
1202     NEW.partition := get_partition(lower(NEW.country_code));
1203     IF NEW.partition = 0 THEN
1204       NEW.calculated_country_code := lower(get_country_code(place_centroid));
1205       NEW.partition := get_partition(NEW.calculated_country_code);
1206     ELSE
1207       NEW.calculated_country_code := lower(NEW.country_code);
1208     END IF;
1209   ELSE
1210     IF NEW.rank_search > 4 THEN
1211       --NEW.calculated_country_code := lower(get_country_code(NEW.geometry, NEW.country_code));
1212       NEW.calculated_country_code := lower(get_country_code(place_centroid));
1213     ELSE
1214       NEW.calculated_country_code := NULL;
1215     END IF;
1216     NEW.partition := get_partition(NEW.calculated_country_code);
1217   END IF;
1218
1219   -- waterway ways are linked when they are part of a relation and have the same class/type
1220   IF NEW.osm_type = 'R' and NEW.class = 'waterway' THEN
1221       FOR relation_members IN select members from planet_osm_rels r where r.id = NEW.osm_id and r.parts != array[]::bigint[]
1222       LOOP
1223           FOR i IN 1..array_upper(relation_members, 1) BY 2 LOOP
1224               IF relation_members[i+1] in ('', 'main_stream', 'side_stream') AND substring(relation_members[i],1,1) = 'w' THEN
1225                 --DEBUG: RAISE WARNING 'waterway parent %, child %/%', NEW.osm_id, i, relation.members[i];
1226                 FOR linked_node_id IN SELECT place_id FROM placex
1227                   WHERE osm_type = 'W' and osm_id = substring(relation_members[i],2,200)::bigint
1228                   and class = NEW.class and type = NEW.type
1229                   and ( relation_members[i+1] != 'side_stream' or NEW.name->'name' = name->'name')
1230                 LOOP
1231                   UPDATE placex SET linked_place_id = NEW.place_id WHERE place_id = linked_node_id;
1232                 END LOOP;
1233               END IF;
1234           END LOOP;
1235       END LOOP;
1236   END IF;
1237
1238   -- Adding ourselves to the list simplifies address calculations later
1239   INSERT INTO place_addressline VALUES (NEW.place_id, NEW.place_id, true, true, 0, NEW.rank_address); 
1240
1241   -- What level are we searching from
1242   search_maxrank := NEW.rank_search;
1243
1244   -- Thought this wasn't needed but when we add new languages to the country_name table
1245   -- we need to update the existing names
1246   IF NEW.name is not null AND array_upper(akeys(NEW.name),1) > 1 THEN
1247     default_language := get_country_language_code(NEW.calculated_country_code);
1248     IF default_language IS NOT NULL THEN
1249       IF NEW.name ? 'name' AND NOT NEW.name ? ('name:'||default_language) THEN
1250         NEW.name := NEW.name || hstore(('name:'||default_language), (NEW.name -> 'name'));
1251       ELSEIF NEW.name ? ('name:'||default_language) AND NOT NEW.name ? 'name' THEN
1252         NEW.name := NEW.name || hstore('name', (NEW.name -> ('name:'||default_language)));
1253       END IF;
1254     END IF;
1255   END IF;
1256
1257   -- Initialise the name vector using our name
1258   name_vector := make_keywords(NEW.name);
1259   nameaddress_vector := '{}'::int[];
1260
1261   FOR i IN 1..28 LOOP
1262     address_havelevel[i] := false;
1263   END LOOP;
1264
1265   NEW.importance := null;
1266   select language||':'||title,importance from get_wikipedia_match(NEW.extratags, NEW.calculated_country_code) INTO NEW.wikipedia,NEW.importance;
1267   IF NEW.importance IS NULL THEN
1268     select language||':'||title,importance from wikipedia_article where osm_type = NEW.osm_type and osm_id = NEW.osm_id order by importance desc limit 1 INTO NEW.wikipedia,NEW.importance;
1269   END IF;
1270
1271 --RAISE WARNING 'before low level% %', NEW.place_id, NEW.rank_search;
1272
1273   -- ---------------------------------------------------------------------------
1274   -- For low level elements we inherit from our parent road
1275   IF (NEW.rank_search > 27 OR (NEW.type = 'postcode' AND NEW.rank_search = 25)) THEN
1276
1277 --RAISE WARNING 'finding street for %', NEW;
1278
1279     -- We won't get a better centroid, besides these places are too small to care
1280     NEW.centroid := place_centroid;
1281
1282     NEW.parent_place_id := null;
1283
1284     -- if we have a POI and there is no address information,
1285     -- see if we can get it from a surrounding building
1286     IF NEW.osm_type = 'N' AND NEW.street IS NULL AND NEW.addr_place IS NULL
1287        AND NEW.housenumber IS NULL THEN
1288       FOR location IN select * from placex where ST_Covers(geometry, place_centroid)
1289             and (housenumber is not null or street is not null or addr_place is not null)
1290             and rank_search > 28 AND ST_GeometryType(geometry) in ('ST_Polygon','ST_MultiPolygon')
1291             limit 1
1292       LOOP
1293         NEW.housenumber := location.housenumber;
1294         NEW.street := location.street;
1295         NEW.addr_place := location.addr_place;
1296       END LOOP;
1297     END IF;
1298
1299     -- We have to find our parent road.
1300     -- Copy data from linked items (points on ways, addr:street links, relations)
1301
1302     -- Is this object part of a relation?
1303     FOR relation IN select * from planet_osm_rels where parts @> ARRAY[NEW.osm_id] and members @> ARRAY[lower(NEW.osm_type)||NEW.osm_id]
1304     LOOP
1305       -- At the moment we only process one type of relation - associatedStreet
1306       IF relation.tags @> ARRAY['associatedStreet'] THEN
1307         FOR i IN 1..array_upper(relation.members, 1) BY 2 LOOP
1308           IF NEW.parent_place_id IS NULL AND relation.members[i+1] = 'street' THEN
1309 --RAISE WARNING 'node in relation %',relation;
1310             SELECT place_id from placex where osm_type = 'W'
1311               and osm_id = substring(relation.members[i],2,200)::bigint
1312               and rank_search = 26 and name is not null INTO NEW.parent_place_id;
1313           END IF;
1314         END LOOP;
1315       END IF;
1316     END LOOP;
1317
1318
1319     -- Note that addr:street links can only be indexed once the street itself is indexed
1320     IF NEW.parent_place_id IS NULL AND NEW.street IS NOT NULL THEN
1321       address_street_word_ids := get_name_ids(make_standard_name(NEW.street));
1322       IF address_street_word_ids IS NOT NULL THEN
1323         FOR location IN SELECT * from getNearestNamedRoadFeature(NEW.partition, place_centroid, address_street_word_ids) LOOP
1324             NEW.parent_place_id := location.place_id;
1325         END LOOP;
1326       END IF;
1327     END IF;
1328
1329     IF NEW.parent_place_id IS NULL AND NEW.addr_place IS NOT NULL THEN
1330       address_street_word_ids := get_name_ids(make_standard_name(NEW.addr_place));
1331       IF address_street_word_ids IS NOT NULL THEN
1332         FOR location IN SELECT * from getNearestNamedPlaceFeature(NEW.partition, place_centroid, address_street_word_ids) LOOP
1333           NEW.parent_place_id := location.place_id;
1334         END LOOP;
1335       END IF;
1336     END IF;
1337
1338     -- Is this node part of an interpolation?
1339     IF NEW.parent_place_id IS NULL AND NEW.osm_type = 'N' THEN
1340       FOR location IN
1341         SELECT q.parent_place_id FROM location_property_osmline q, planet_osm_ways x
1342          WHERE q.linegeo && NEW.geometry and x.id = q.osm_id and NEW.osm_id = any(x.nodes)
1343          LIMIT 1
1344       LOOP
1345          NEW.parent_place_id := location.parent_place_id;
1346       END LOOP;
1347     END IF;
1348
1349     -- Is this node part of a way?
1350     IF NEW.parent_place_id IS NULL AND NEW.osm_type = 'N' THEN
1351
1352       FOR location IN select p.place_id, p.osm_id, p.parent_place_id, p.rank_search, p.street, p.addr_place from placex p, planet_osm_ways w
1353          where p.osm_type = 'W' and p.rank_search >= 26 and p.geometry && NEW.geometry and w.id = p.osm_id and NEW.osm_id = any(w.nodes) 
1354       LOOP
1355
1356         -- Way IS a road then we are on it - that must be our road
1357         IF location.rank_search < 28 AND NEW.parent_place_id IS NULL THEN
1358 --RAISE WARNING 'node in way that is a street %',location;
1359           NEW.parent_place_id := location.place_id;
1360         END IF;
1361
1362         -- If the way mentions a street or place address, try that for parenting.
1363         IF NEW.parent_place_id IS NULL AND location.street IS NOT NULL THEN
1364           address_street_word_ids := get_name_ids(make_standard_name(location.street));
1365           IF address_street_word_ids IS NOT NULL THEN
1366             FOR linkedplacex IN SELECT place_id from getNearestNamedRoadFeature(NEW.partition, place_centroid, address_street_word_ids) LOOP
1367                 NEW.parent_place_id := linkedplacex.place_id;
1368             END LOOP;
1369           END IF;
1370         END IF;
1371
1372         IF NEW.parent_place_id IS NULL AND location.addr_place IS NOT NULL THEN
1373           address_street_word_ids := get_name_ids(make_standard_name(location.addr_place));
1374           IF address_street_word_ids IS NOT NULL THEN
1375             FOR linkedplacex IN SELECT place_id from getNearestNamedPlaceFeature(NEW.partition, place_centroid, address_street_word_ids) LOOP
1376               NEW.parent_place_id := linkedplacex.place_id;
1377             END LOOP;
1378           END IF;
1379         END IF;
1380
1381         -- Is the WAY part of a relation
1382         IF NEW.parent_place_id IS NULL THEN
1383             FOR relation IN select * from planet_osm_rels where parts @> ARRAY[location.osm_id] and members @> ARRAY['w'||location.osm_id]
1384             LOOP
1385               -- At the moment we only process one type of relation - associatedStreet
1386               IF relation.tags @> ARRAY['associatedStreet'] AND array_upper(relation.members, 1) IS NOT NULL THEN
1387                 FOR i IN 1..array_upper(relation.members, 1) BY 2 LOOP
1388                   IF NEW.parent_place_id IS NULL AND relation.members[i+1] = 'street' THEN
1389   --RAISE WARNING 'node in way that is in a relation %',relation;
1390                     SELECT place_id from placex where osm_type='W' and osm_id = substring(relation.members[i],2,200)::bigint 
1391                       and rank_search = 26 and name is not null INTO NEW.parent_place_id;
1392                   END IF;
1393                 END LOOP;
1394               END IF;
1395             END LOOP;
1396         END IF;
1397
1398       END LOOP;
1399
1400     END IF;
1401
1402 --RAISE WARNING 'x4 %',NEW.parent_place_id;
1403     -- Still nothing, just use the nearest road
1404     IF NEW.parent_place_id IS NULL THEN
1405       FOR location IN SELECT place_id FROM getNearestRoadFeature(NEW.partition, place_centroid) LOOP
1406         NEW.parent_place_id := location.place_id;
1407       END LOOP;
1408     END IF;
1409
1410 --return NEW;
1411 --RAISE WARNING 'x6 %',NEW.parent_place_id;
1412
1413     -- If we didn't find any road fallback to standard method
1414     IF NEW.parent_place_id IS NOT NULL THEN
1415
1416       -- Get the details of the parent road
1417       select * from search_name where place_id = NEW.parent_place_id INTO location;
1418       NEW.calculated_country_code := location.country_code;
1419
1420       -- Merge the postcode into the parent's address if necessary XXXX
1421       IF NEW.postcode IS NOT NULL THEN
1422         isin_tokens := '{}'::int[];
1423         address_street_word_id := getorcreate_word_id(make_standard_name(NEW.postcode));
1424         IF address_street_word_id is not null
1425            and not ARRAY[address_street_word_id] <@ location.nameaddress_vector THEN
1426            isin_tokens := isin_tokens || address_street_word_id;
1427         END IF;
1428         address_street_word_id := getorcreate_name_id(make_standard_name(NEW.postcode));
1429         IF address_street_word_id is not null
1430            and not ARRAY[address_street_word_id] <@ location.nameaddress_vector THEN
1431            isin_tokens := isin_tokens || address_street_word_id;
1432         END IF;
1433         IF isin_tokens != '{}'::int[] THEN
1434            UPDATE search_name
1435               SET nameaddress_vector = search_name.nameaddress_vector || isin_tokens
1436             WHERE place_id = NEW.parent_place_id;
1437         END IF;
1438       END IF;
1439
1440 --RAISE WARNING '%', NEW.name;
1441       -- If there is no name it isn't searchable, don't bother to create a search record
1442       IF NEW.name is NULL THEN
1443         return NEW;
1444       END IF;
1445
1446       -- Merge address from parent
1447       nameaddress_vector := array_merge(nameaddress_vector, location.nameaddress_vector);
1448       nameaddress_vector := array_merge(nameaddress_vector, location.name_vector);
1449
1450       -- Performance, it would be more acurate to do all the rest of the import
1451       -- process but it takes too long
1452       -- Just be happy with inheriting from parent road only
1453
1454       IF NEW.rank_search <= 25 and NEW.rank_address > 0 THEN
1455         result := add_location(NEW.place_id, NEW.calculated_country_code, NEW.partition, name_vector, NEW.rank_search, NEW.rank_address, NEW.geometry);
1456       END IF;
1457
1458       result := insertSearchName(NEW.partition, NEW.place_id, NEW.calculated_country_code, name_vector, nameaddress_vector, NEW.rank_search, NEW.rank_address, NEW.importance, place_centroid, NEW.geometry);
1459
1460       return NEW;
1461     END IF;
1462
1463   END IF;
1464
1465 -- RAISE WARNING '  INDEXING Started:';
1466 -- RAISE WARNING '  INDEXING: %',NEW;
1467
1468   -- ---------------------------------------------------------------------------
1469   -- Full indexing
1470
1471   IF NEW.osm_type = 'R' AND NEW.rank_search < 26 THEN
1472
1473     -- see if we have any special relation members
1474     select members from planet_osm_rels where id = NEW.osm_id INTO relation_members;
1475
1476 -- RAISE WARNING 'get_osm_rel_members, label';
1477     IF relation_members IS NOT NULL THEN
1478       FOR relMember IN select get_osm_rel_members(relation_members,ARRAY['label']) as member LOOP
1479
1480         FOR linkedPlacex IN select * from placex where osm_type = upper(substring(relMember.member,1,1))::char(1) 
1481           and osm_id = substring(relMember.member,2,10000)::bigint order by rank_search desc limit 1 LOOP
1482
1483           -- If we don't already have one use this as the centre point of the geometry
1484           IF NEW.centroid IS NULL THEN
1485             NEW.centroid := coalesce(linkedPlacex.centroid,st_centroid(linkedPlacex.geometry));
1486           END IF;
1487
1488           -- merge in the label name, re-init word vector
1489           IF NOT linkedPlacex.name IS NULL THEN
1490             NEW.name := linkedPlacex.name || NEW.name;
1491             name_vector := array_merge(name_vector, make_keywords(linkedPlacex.name));
1492           END IF;
1493
1494           -- merge in extra tags
1495           NEW.extratags := hstore(linkedPlacex.class, linkedPlacex.type) || coalesce(linkedPlacex.extratags, ''::hstore) || coalesce(NEW.extratags, ''::hstore);
1496
1497           -- mark the linked place (excludes from search results)
1498           UPDATE placex set linked_place_id = NEW.place_id where place_id = linkedPlacex.place_id;
1499
1500           -- keep a note of the node id in case we need it for wikipedia in a bit
1501           linked_node_id := linkedPlacex.osm_id;
1502         END LOOP;
1503
1504       END LOOP;
1505
1506       IF NEW.centroid IS NULL THEN
1507
1508         FOR relMember IN select get_osm_rel_members(relation_members,ARRAY['admin_center','admin_centre']) as member LOOP
1509
1510           FOR linkedPlacex IN select * from placex where osm_type = upper(substring(relMember.member,1,1))::char(1) 
1511             and osm_id = substring(relMember.member,2,10000)::bigint order by rank_search desc limit 1 LOOP
1512
1513             -- For an admin centre we also want a name match - still not perfect, for example 'new york, new york'
1514             -- But that can be fixed by explicitly setting the label in the data
1515             IF make_standard_name(NEW.name->'name') = make_standard_name(linkedPlacex.name->'name') 
1516               AND NEW.rank_address = linkedPlacex.rank_address THEN
1517
1518               -- If we don't already have one use this as the centre point of the geometry
1519               IF NEW.centroid IS NULL THEN
1520                 NEW.centroid := coalesce(linkedPlacex.centroid,st_centroid(linkedPlacex.geometry));
1521               END IF;
1522
1523               -- merge in the name, re-init word vector
1524               IF NOT linkedPlacex.name IS NULL THEN
1525                 NEW.name := linkedPlacex.name || NEW.name;
1526                 name_vector := make_keywords(NEW.name);
1527               END IF;
1528
1529               -- merge in extra tags
1530               NEW.extratags := hstore(linkedPlacex.class, linkedPlacex.type) || coalesce(linkedPlacex.extratags, ''::hstore) || coalesce(NEW.extratags, ''::hstore);
1531
1532               -- mark the linked place (excludes from search results)
1533               UPDATE placex set linked_place_id = NEW.place_id where place_id = linkedPlacex.place_id;
1534
1535               -- keep a note of the node id in case we need it for wikipedia in a bit
1536               linked_node_id := linkedPlacex.osm_id;
1537             END IF;
1538
1539           END LOOP;
1540
1541         END LOOP;
1542
1543       END IF;
1544     END IF;
1545
1546   END IF;
1547
1548   -- Name searches can be done for ways as well as relations
1549   IF NEW.osm_type in ('W','R') AND NEW.rank_search < 26 AND NEW.rank_address > 0 THEN
1550
1551     -- not found one yet? how about doing a name search
1552     IF NEW.centroid IS NULL AND (NEW.name->'name') is not null and make_standard_name(NEW.name->'name') != '' THEN
1553
1554       FOR linkedPlacex IN select placex.* from placex WHERE
1555         make_standard_name(name->'name') = make_standard_name(NEW.name->'name')
1556         AND placex.rank_address = NEW.rank_address
1557         AND placex.place_id != NEW.place_id
1558         AND placex.osm_type = 'N'::char(1) AND placex.rank_search < 26
1559         AND st_covers(NEW.geometry, placex.geometry)
1560       LOOP
1561
1562         -- If we don't already have one use this as the centre point of the geometry
1563         IF NEW.centroid IS NULL THEN
1564           NEW.centroid := coalesce(linkedPlacex.centroid,st_centroid(linkedPlacex.geometry));
1565         END IF;
1566
1567         -- merge in the name, re-init word vector
1568         NEW.name := linkedPlacex.name || NEW.name;
1569         name_vector := make_keywords(NEW.name);
1570
1571         -- merge in extra tags
1572         NEW.extratags := hstore(linkedPlacex.class, linkedPlacex.type) || coalesce(linkedPlacex.extratags, ''::hstore) || coalesce(NEW.extratags, ''::hstore);
1573
1574         -- mark the linked place (excludes from search results)
1575         UPDATE placex set linked_place_id = NEW.place_id where place_id = linkedPlacex.place_id;
1576
1577         -- keep a note of the node id in case we need it for wikipedia in a bit
1578         linked_node_id := linkedPlacex.osm_id;
1579       END LOOP;
1580     END IF;
1581
1582     IF NEW.centroid IS NOT NULL THEN
1583       place_centroid := NEW.centroid;
1584       -- Place might have had only a name tag before but has now received translations
1585       -- from the linked place. Make sure a name tag for the default language exists in
1586       -- this case. 
1587       IF NEW.name is not null AND array_upper(akeys(NEW.name),1) > 1 THEN
1588         default_language := get_country_language_code(NEW.calculated_country_code);
1589         IF default_language IS NOT NULL THEN
1590           IF NEW.name ? 'name' AND NOT NEW.name ? ('name:'||default_language) THEN
1591             NEW.name := NEW.name || hstore(('name:'||default_language), (NEW.name -> 'name'));
1592           ELSEIF NEW.name ? ('name:'||default_language) AND NOT NEW.name ? 'name' THEN
1593             NEW.name := NEW.name || hstore('name', (NEW.name -> ('name:'||default_language)));
1594           END IF;
1595         END IF;
1596       END IF;
1597     END IF;
1598
1599     -- Did we gain a wikipedia tag in the process? then we need to recalculate our importance
1600     IF NEW.importance is null THEN
1601       select language||':'||title,importance from get_wikipedia_match(NEW.extratags, NEW.calculated_country_code) INTO NEW.wikipedia,NEW.importance;
1602     END IF;
1603     -- Still null? how about looking it up by the node id
1604     IF NEW.importance IS NULL THEN
1605       select language||':'||title,importance from wikipedia_article where osm_type = 'N'::char(1) and osm_id = linked_node_id order by importance desc limit 1 INTO NEW.wikipedia,NEW.importance;
1606     END IF;
1607
1608   END IF;
1609
1610   -- make sure all names are in the word table
1611   IF NEW.admin_level = 2 AND NEW.class = 'boundary' AND NEW.type = 'administrative' AND NEW.country_code IS NOT NULL THEN
1612     perform create_country(NEW.name, lower(NEW.country_code));
1613   END IF;
1614
1615   NEW.parent_place_id = 0;
1616   parent_place_id_rank = 0;
1617
1618
1619   -- convert isin to array of tokenids
1620   isin_tokens := '{}'::int[];
1621   IF NEW.isin IS NOT NULL THEN
1622     isin := regexp_split_to_array(NEW.isin, E'[;,]');
1623     IF array_upper(isin, 1) IS NOT NULL THEN
1624       FOR i IN 1..array_upper(isin, 1) LOOP
1625         address_street_word_id := get_name_id(make_standard_name(isin[i]));
1626         IF address_street_word_id IS NOT NULL AND NOT(ARRAY[address_street_word_id] <@ isin_tokens) THEN
1627           nameaddress_vector := array_merge(nameaddress_vector, ARRAY[address_street_word_id]);
1628           isin_tokens := isin_tokens || address_street_word_id;
1629         END IF;
1630
1631         -- merge word into address vector
1632         address_street_word_id := get_word_id(make_standard_name(isin[i]));
1633         IF address_street_word_id IS NOT NULL THEN
1634           nameaddress_vector := array_merge(nameaddress_vector, ARRAY[address_street_word_id]);
1635         END IF;
1636       END LOOP;
1637     END IF;
1638   END IF;
1639   IF NEW.postcode IS NOT NULL THEN
1640     isin := regexp_split_to_array(NEW.postcode, E'[;,]');
1641     IF array_upper(isin, 1) IS NOT NULL THEN
1642       FOR i IN 1..array_upper(isin, 1) LOOP
1643         address_street_word_id := get_name_id(make_standard_name(isin[i]));
1644         IF address_street_word_id IS NOT NULL AND NOT(ARRAY[address_street_word_id] <@ isin_tokens) THEN
1645           nameaddress_vector := array_merge(nameaddress_vector, ARRAY[address_street_word_id]);
1646           isin_tokens := isin_tokens || address_street_word_id;
1647         END IF;
1648
1649         -- merge into address vector
1650         address_street_word_id := get_word_id(make_standard_name(isin[i]));
1651         IF address_street_word_id IS NOT NULL THEN
1652           nameaddress_vector := array_merge(nameaddress_vector, ARRAY[address_street_word_id]);
1653         END IF;
1654       END LOOP;
1655     END IF;
1656   END IF;
1657
1658   -- %NOTIGERDATA% IF 0 THEN
1659   -- for the USA we have an additional address table.  Merge in zip codes from there too
1660   IF NEW.rank_search = 26 AND NEW.calculated_country_code = 'us' THEN
1661     FOR location IN SELECT distinct postcode from location_property_tiger where parent_place_id = NEW.place_id LOOP
1662       address_street_word_id := get_name_id(make_standard_name(location.postcode));
1663       nameaddress_vector := array_merge(nameaddress_vector, ARRAY[address_street_word_id]);
1664       isin_tokens := isin_tokens || address_street_word_id;
1665
1666       -- also merge in the single word version
1667       address_street_word_id := get_word_id(make_standard_name(location.postcode));
1668       nameaddress_vector := array_merge(nameaddress_vector, ARRAY[address_street_word_id]);
1669     END LOOP;
1670   END IF;
1671   -- %NOTIGERDATA% END IF;
1672
1673 -- RAISE WARNING 'ISIN: %', isin_tokens;
1674
1675   -- Process area matches
1676   location_rank_search := 0;
1677   location_distance := 0;
1678   location_parent := NULL;
1679   -- added ourself as address already
1680   address_havelevel[NEW.rank_address] := true;
1681   -- RAISE WARNING '  getNearFeatures(%,''%'',%,''%'')',NEW.partition, place_centroid, search_maxrank, isin_tokens;
1682   FOR location IN
1683     SELECT * from getNearFeatures(NEW.partition,
1684                                   CASE WHEN NEW.rank_search >= 26
1685                                              AND NEW.rank_search < 30
1686                                        THEN NEW.geometry
1687                                        ELSE place_centroid END,
1688                                   search_maxrank, isin_tokens)
1689   LOOP
1690
1691 --RAISE WARNING '  AREA: %',location;
1692
1693     IF location.rank_address != location_rank_search THEN
1694       location_rank_search := location.rank_address;
1695       IF location.isguess THEN
1696         location_distance := location.distance * 1.5;
1697       ELSE
1698         IF location.rank_address <= 12 THEN
1699           -- for county and above, if we have an area consider that exact
1700           -- (It would be nice to relax the constraint for places close to
1701           --  the boundary but we'd need the exact geometry for that. Too
1702           --  expensive.)
1703           location_distance = 0;
1704         ELSE
1705           -- Below county level remain slightly fuzzy.
1706           location_distance := location.distance * 0.5;
1707         END IF;
1708       END IF;
1709     ELSE
1710       CONTINUE WHEN location.keywords <@ location_keywords;
1711     END IF;
1712
1713     IF location.distance < location_distance OR NOT location.isguess THEN
1714       location_keywords := location.keywords;
1715
1716       location_isaddress := NOT address_havelevel[location.rank_address];
1717       IF location_isaddress AND location.isguess AND location_parent IS NOT NULL THEN
1718           location_isaddress := ST_Contains(location_parent,location.centroid);
1719       END IF;
1720
1721       -- RAISE WARNING '% isaddress: %', location.place_id, location_isaddress;
1722       -- Add it to the list of search terms
1723       IF location.rank_search > 4 THEN
1724           nameaddress_vector := array_merge(nameaddress_vector, location.keywords::integer[]);
1725       END IF;
1726       INSERT INTO place_addressline VALUES (NEW.place_id, location.place_id, true, location_isaddress, location.distance, location.rank_address);
1727
1728       IF location_isaddress THEN
1729
1730         address_havelevel[location.rank_address] := true;
1731         IF NOT location.isguess THEN
1732           SELECT geometry FROM placex WHERE place_id = location.place_id INTO location_parent;
1733         END IF;
1734
1735         IF location.rank_address > parent_place_id_rank THEN
1736           NEW.parent_place_id = location.place_id;
1737           parent_place_id_rank = location.rank_address;
1738         END IF;
1739
1740       END IF;
1741
1742 --RAISE WARNING '  Terms: (%) %',location, nameaddress_vector;
1743
1744     END IF;
1745
1746   END LOOP;
1747
1748   -- try using the isin value to find parent places
1749   IF array_upper(isin_tokens, 1) IS NOT NULL THEN
1750     FOR i IN 1..array_upper(isin_tokens, 1) LOOP
1751 --RAISE WARNING '  getNearestNamedFeature: % % % %',NEW.partition, place_centroid, search_maxrank, isin_tokens[i];
1752       IF NOT ARRAY[isin_tokens[i]] <@ nameaddress_vector THEN
1753
1754         FOR location IN SELECT * from getNearestNamedFeature(NEW.partition, place_centroid, search_maxrank, isin_tokens[i]) LOOP
1755
1756 --RAISE WARNING '  ISIN: %',location;
1757
1758           IF location.rank_search > 4 THEN
1759               nameaddress_vector := array_merge(nameaddress_vector, location.keywords::integer[]);
1760               INSERT INTO place_addressline VALUES (NEW.place_id, location.place_id, false, NOT address_havelevel[location.rank_address], location.distance, location.rank_address);
1761               address_havelevel[location.rank_address] := true;
1762
1763               IF location.rank_address > parent_place_id_rank THEN
1764                 NEW.parent_place_id = location.place_id;
1765                 parent_place_id_rank = location.rank_address;
1766               END IF;
1767           END IF;
1768         END LOOP;
1769
1770       END IF;
1771
1772     END LOOP;
1773   END IF;
1774
1775   -- for long ways we should add search terms for the entire length
1776   IF st_length(NEW.geometry) > 0.05 THEN
1777
1778     location_rank_search := 0;
1779     location_distance := 0;
1780
1781     FOR location IN SELECT * from getNearFeatures(NEW.partition, NEW.geometry, search_maxrank, isin_tokens) LOOP
1782
1783       IF location.rank_address != location_rank_search THEN
1784         location_rank_search := location.rank_address;
1785         location_distance := location.distance * 1.5;
1786       END IF;
1787
1788       IF location.rank_search > 4 AND location.distance < location_distance THEN
1789
1790         -- Add it to the list of search terms
1791         nameaddress_vector := array_merge(nameaddress_vector, location.keywords::integer[]);
1792         INSERT INTO place_addressline VALUES (NEW.place_id, location.place_id, true, false, location.distance, location.rank_address); 
1793
1794       END IF;
1795
1796     END LOOP;
1797
1798   END IF;
1799
1800   -- if we have a name add this to the name search table
1801   IF NEW.name IS NOT NULL THEN
1802
1803     IF NEW.rank_search <= 25 and NEW.rank_address > 0 THEN
1804       result := add_location(NEW.place_id, NEW.calculated_country_code, NEW.partition, name_vector, NEW.rank_search, NEW.rank_address, NEW.geometry);
1805     END IF;
1806
1807     IF NEW.rank_search between 26 and 27 and NEW.class = 'highway' THEN
1808       result := insertLocationRoad(NEW.partition, NEW.place_id, NEW.calculated_country_code, NEW.geometry);
1809     END IF;
1810
1811     result := insertSearchName(NEW.partition, NEW.place_id, NEW.calculated_country_code, name_vector, nameaddress_vector, NEW.rank_search, NEW.rank_address, NEW.importance, place_centroid, NEW.geometry);
1812
1813   END IF;
1814
1815   -- If we've not managed to pick up a better one - default centroid
1816   IF NEW.centroid IS NULL THEN
1817     NEW.centroid := place_centroid;
1818   END IF;
1819   
1820   RETURN NEW;
1821 END;
1822 $$
1823 LANGUAGE plpgsql;
1824
1825 CREATE OR REPLACE FUNCTION placex_delete() RETURNS TRIGGER
1826   AS $$
1827 DECLARE
1828   b BOOLEAN;
1829   classtable TEXT;
1830 BEGIN
1831   -- RAISE WARNING 'placex_delete % %',OLD.osm_type,OLD.osm_id;
1832
1833   update placex set linked_place_id = null, indexed_status = 2 where linked_place_id = OLD.place_id and indexed_status = 0;
1834   --DEBUG: RAISE WARNING 'placex_delete:01 % %',OLD.osm_type,OLD.osm_id;
1835   update placex set linked_place_id = null where linked_place_id = OLD.place_id;
1836   --DEBUG: RAISE WARNING 'placex_delete:02 % %',OLD.osm_type,OLD.osm_id;
1837
1838   IF OLD.rank_address < 30 THEN
1839
1840     -- mark everything linked to this place for re-indexing
1841     --DEBUG: RAISE WARNING 'placex_delete:03 % %',OLD.osm_type,OLD.osm_id;
1842     UPDATE placex set indexed_status = 2 from place_addressline where address_place_id = OLD.place_id 
1843       and placex.place_id = place_addressline.place_id and indexed_status = 0 and place_addressline.isaddress;
1844
1845     --DEBUG: RAISE WARNING 'placex_delete:04 % %',OLD.osm_type,OLD.osm_id;
1846     DELETE FROM place_addressline where address_place_id = OLD.place_id;
1847
1848     --DEBUG: RAISE WARNING 'placex_delete:05 % %',OLD.osm_type,OLD.osm_id;
1849     b := deleteRoad(OLD.partition, OLD.place_id);
1850
1851     --DEBUG: RAISE WARNING 'placex_delete:06 % %',OLD.osm_type,OLD.osm_id;
1852     update placex set indexed_status = 2 where parent_place_id = OLD.place_id and indexed_status = 0;
1853     --DEBUG: RAISE WARNING 'placex_delete:07 % %',OLD.osm_type,OLD.osm_id;
1854     -- reparenting also for OSM Interpolation Lines (and for Tiger?)
1855     update location_property_osmline set indexed_status = 2 where indexed_status = 0 and parent_place_id = OLD.place_id;
1856
1857   END IF;
1858
1859   --DEBUG: RAISE WARNING 'placex_delete:08 % %',OLD.osm_type,OLD.osm_id;
1860
1861   IF OLD.rank_address < 26 THEN
1862     b := deleteLocationArea(OLD.partition, OLD.place_id, OLD.rank_search);
1863   END IF;
1864
1865   --DEBUG: RAISE WARNING 'placex_delete:09 % %',OLD.osm_type,OLD.osm_id;
1866
1867   IF OLD.name is not null THEN
1868     b := deleteSearchName(OLD.partition, OLD.place_id);
1869   END IF;
1870
1871   --DEBUG: RAISE WARNING 'placex_delete:10 % %',OLD.osm_type,OLD.osm_id;
1872
1873   DELETE FROM place_addressline where place_id = OLD.place_id;
1874
1875   --DEBUG: RAISE WARNING 'placex_delete:11 % %',OLD.osm_type,OLD.osm_id;
1876
1877   -- remove from tables for special search
1878   classtable := 'place_classtype_' || OLD.class || '_' || OLD.type;
1879   SELECT count(*)>0 FROM pg_tables WHERE tablename = classtable and schemaname = current_schema() INTO b;
1880   IF b THEN
1881     EXECUTE 'DELETE FROM ' || classtable::regclass || ' WHERE place_id = $1' USING OLD.place_id;
1882   END IF;
1883
1884   --DEBUG: RAISE WARNING 'placex_delete:12 % %',OLD.osm_type,OLD.osm_id;
1885
1886   RETURN OLD;
1887
1888 END;
1889 $$
1890 LANGUAGE plpgsql;
1891
1892 CREATE OR REPLACE FUNCTION place_delete() RETURNS TRIGGER
1893   AS $$
1894 DECLARE
1895   has_rank BOOLEAN;
1896 BEGIN
1897
1898   --DEBUG: RAISE WARNING 'delete: % % % %',OLD.osm_type,OLD.osm_id,OLD.class,OLD.type;
1899
1900   -- deleting large polygons can have a massive effect on the system - require manual intervention to let them through
1901   IF st_area(OLD.geometry) > 2 and st_isvalid(OLD.geometry) THEN
1902     SELECT bool_or(not (rank_address = 0 or rank_address > 26)) as ranked FROM placex WHERE osm_type = OLD.osm_type and osm_id = OLD.osm_id and class = OLD.class and type = OLD.type INTO has_rank;
1903     IF has_rank THEN
1904       insert into import_polygon_delete values (OLD.osm_type,OLD.osm_id,OLD.class,OLD.type);
1905       RETURN NULL;
1906     END IF;
1907   END IF;
1908
1909   -- mark for delete
1910   UPDATE placex set indexed_status = 100 where osm_type = OLD.osm_type and osm_id = OLD.osm_id and class = OLD.class and type = OLD.type;
1911
1912   -- interpolations are special
1913   IF OLD.osm_type='W' and OLD.class = 'place' and OLD.type = 'houses' THEN
1914     UPDATE location_property_osmline set indexed_status = 100 where osm_id = OLD.osm_id; -- osm_id = wayid (=old.osm_id)
1915   END IF;
1916
1917   RETURN OLD;
1918
1919 END;
1920 $$
1921 LANGUAGE plpgsql;
1922
1923 CREATE OR REPLACE FUNCTION place_insert() RETURNS TRIGGER
1924   AS $$
1925 DECLARE
1926   i INTEGER;
1927   existing RECORD;
1928   existingplacex RECORD;
1929   existingline RECORD;
1930   existinggeometry GEOMETRY;
1931   existingplace_id BIGINT;
1932   result BOOLEAN;
1933   partition INTEGER;
1934 BEGIN
1935
1936   --DEBUG: RAISE WARNING '-----------------------------------------------------------------------------------';
1937   --DEBUG: RAISE WARNING 'place_insert: % % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type,st_area(NEW.geometry);
1938   -- filter wrong tupels
1939   IF ST_IsEmpty(NEW.geometry) OR NOT ST_IsValid(NEW.geometry) OR ST_X(ST_Centroid(NEW.geometry))::text in ('NaN','Infinity','-Infinity') OR ST_Y(ST_Centroid(NEW.geometry))::text in ('NaN','Infinity','-Infinity') THEN  
1940     INSERT INTO import_polygon_error values (NEW.osm_type, NEW.osm_id, NEW.class, NEW.type, NEW.name, NEW.country_code, 
1941       now(), ST_IsValidReason(NEW.geometry), null, NEW.geometry);
1942 --    RAISE WARNING 'Invalid Geometry: % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type;
1943     RETURN null;
1944   END IF;
1945
1946   -- decide, whether it is an osm interpolation line => insert intoosmline, or else just placex
1947   IF NEW.class='place' and NEW.type='houses' and NEW.osm_type='W' and ST_GeometryType(NEW.geometry) = 'ST_LineString' THEN
1948     -- Have we already done this place?
1949     select * from place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type INTO existing;
1950
1951     -- Get the existing place_id
1952     select * from location_property_osmline where osm_id = NEW.osm_id INTO existingline;
1953
1954     -- Handle a place changing type by removing the old data (this trigger is executed BEFORE INSERT of the NEW tupel)
1955     IF existing.osm_type IS NULL THEN
1956       DELETE FROM place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class;
1957     END IF;
1958
1959     DELETE from import_polygon_error where osm_type = NEW.osm_type and osm_id = NEW.osm_id;
1960     DELETE from import_polygon_delete where osm_type = NEW.osm_type and osm_id = NEW.osm_id;
1961
1962     -- update method for interpolation lines: delete all old interpolation lines with same osm_id (update on place) and insert the new one(s) (they can be split up, if they have > 2 nodes)
1963     IF existingline.osm_id IS NOT NULL THEN
1964       delete from location_property_osmline where osm_id = NEW.osm_id;
1965     END IF;
1966
1967     -- for interpolations invalidate all nodes on the line
1968     update placex p set indexed_status = 2
1969       from planet_osm_ways w
1970       where w.id = NEW.osm_id and p.osm_type = 'N' and p.osm_id = any(w.nodes);
1971
1972
1973     INSERT INTO location_property_osmline
1974            (osm_id, interpolationtype, street,
1975             addr_place, postcode, calculated_country_code, linegeo)
1976     VALUES (NEW.osm_id, NEW.housenumber, NEW.street,
1977             NEW.addr_place, NEW.postcode, NEW.country_code, NEW.geometry);
1978
1979
1980     IF existing.osm_type IS NULL THEN
1981       return NEW;
1982     END IF;
1983
1984     IF coalesce(existing.housenumber, '') != coalesce(NEW.housenumber, '')
1985        OR coalesce(existing.street, '') != coalesce(NEW.street, '')
1986        OR coalesce(existing.addr_place, '') != coalesce(NEW.addr_place, '')
1987        OR coalesce(existing.isin, '') != coalesce(NEW.isin, '')
1988        OR coalesce(existing.postcode, '') != coalesce(NEW.postcode, '')
1989        OR coalesce(existing.country_code, '') != coalesce(NEW.country_code, '')
1990        OR existing.geometry::text != NEW.geometry::text
1991        THEN
1992
1993       update place set 
1994         name = NEW.name,
1995         housenumber  = NEW.housenumber,
1996         street = NEW.street,
1997         addr_place = NEW.addr_place,
1998         isin = NEW.isin,
1999         postcode = NEW.postcode,
2000         country_code = NEW.country_code,
2001         extratags = NEW.extratags,
2002         admin_level = NEW.admin_level,
2003         geometry = NEW.geometry
2004         where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type;
2005     END IF;
2006
2007     RETURN NULL;
2008
2009   ELSE -- insert to placex
2010
2011     -- Patch in additional country names
2012     IF NEW.admin_level = 2 AND NEW.type = 'administrative' AND NEW.country_code is not null THEN
2013         SELECT name FROM country_name WHERE country_code = lower(NEW.country_code) INTO existing;
2014         IF existing.name IS NOT NULL THEN
2015             NEW.name = existing.name || NEW.name;
2016         END IF;
2017     END IF;
2018       
2019     -- Have we already done this place?
2020     select * from place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type INTO existing;
2021
2022     -- Get the existing place_id
2023     select * from placex where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type INTO existingplacex;
2024
2025     -- Handle a place changing type by removing the old data
2026     -- My generated 'place' types are causing havok because they overlap with real keys
2027     -- TODO: move them to their own special purpose key/class to avoid collisions
2028     IF existing.osm_type IS NULL THEN
2029       DELETE FROM place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class;
2030     END IF;
2031
2032     --DEBUG: RAISE WARNING 'Existing: %',existing.osm_id;
2033     --DEBUG: RAISE WARNING 'Existing PlaceX: %',existingplacex.place_id;
2034
2035     -- Log and discard 
2036     IF existing.geometry is not null AND st_isvalid(existing.geometry) 
2037       AND st_area(existing.geometry) > 0.02
2038       AND ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon')
2039       AND st_area(NEW.geometry) < st_area(existing.geometry)*0.5
2040       THEN
2041       INSERT INTO import_polygon_error values (NEW.osm_type, NEW.osm_id, NEW.class, NEW.type, NEW.name, NEW.country_code, now(), 
2042         'Area reduced from '||st_area(existing.geometry)||' to '||st_area(NEW.geometry), existing.geometry, NEW.geometry);
2043       RETURN null;
2044     END IF;
2045
2046     DELETE from import_polygon_error where osm_type = NEW.osm_type and osm_id = NEW.osm_id;
2047     DELETE from import_polygon_delete where osm_type = NEW.osm_type and osm_id = NEW.osm_id;
2048
2049     -- To paraphrase, if there isn't an existing item, OR if the admin level has changed
2050     IF existingplacex.osm_type IS NULL OR
2051       (coalesce(existingplacex.admin_level, 15) != coalesce(NEW.admin_level, 15) AND existingplacex.class = 'boundary' AND existingplacex.type = 'administrative')
2052     THEN
2053
2054       IF existingplacex.osm_type IS NOT NULL THEN
2055         -- sanity check: ignore admin_level changes on places with too many active children
2056         -- or we end up reindexing entire countries because somebody accidentally deleted admin_level
2057         --LIMIT INDEXING: SELECT count(*) FROM (SELECT 'a' FROM placex , place_addressline where address_place_id = existingplacex.place_id and placex.place_id = place_addressline.place_id and indexed_status = 0 and place_addressline.isaddress LIMIT 100001) sub INTO i;
2058         --LIMIT INDEXING: IF i > 100000 THEN
2059         --LIMIT INDEXING:  RETURN null;
2060         --LIMIT INDEXING: END IF;
2061       END IF;
2062
2063       IF existing.osm_type IS NOT NULL THEN
2064         -- pathological case caused by the triggerless copy into place during initial import
2065         -- force delete even for large areas, it will be reinserted later
2066         UPDATE place set geometry = ST_SetSRID(ST_Point(0,0), 4326) where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type;
2067         DELETE from place where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type;
2068       END IF;
2069
2070       -- No - process it as a new insertion (hopefully of low rank or it will be slow)
2071       insert into placex (osm_type, osm_id, class, type, name, admin_level, housenumber, 
2072         street, addr_place, isin, postcode, country_code, extratags, geometry)
2073         values (NEW.osm_type
2074           ,NEW.osm_id
2075           ,NEW.class
2076           ,NEW.type
2077           ,NEW.name
2078           ,NEW.admin_level
2079           ,NEW.housenumber
2080           ,NEW.street
2081           ,NEW.addr_place
2082           ,NEW.isin
2083           ,NEW.postcode
2084           ,NEW.country_code
2085           ,NEW.extratags
2086           ,NEW.geometry
2087           );
2088
2089       --DEBUG: RAISE WARNING 'insert done % % % % %',NEW.osm_type,NEW.osm_id,NEW.class,NEW.type,NEW.name;
2090
2091       RETURN NEW;
2092     END IF;
2093
2094     -- Various ways to do the update
2095
2096     -- Debug, what's changed?
2097     IF FALSE THEN
2098       IF coalesce(existing.name::text, '') != coalesce(NEW.name::text, '') THEN
2099         RAISE WARNING 'update details, name: % % % %',NEW.osm_type,NEW.osm_id,existing.name::text,NEW.name::text;
2100       END IF;
2101       IF coalesce(existing.housenumber, '') != coalesce(NEW.housenumber, '') THEN
2102         RAISE WARNING 'update details, housenumber: % % % %',NEW.osm_type,NEW.osm_id,existing.housenumber,NEW.housenumber;
2103       END IF;
2104       IF coalesce(existing.street, '') != coalesce(NEW.street, '') THEN
2105         RAISE WARNING 'update details, street: % % % %',NEW.osm_type,NEW.osm_id,existing.street,NEW.street;
2106       END IF;
2107       IF coalesce(existing.addr_place, '') != coalesce(NEW.addr_place, '') THEN
2108         RAISE WARNING 'update details, street: % % % %',NEW.osm_type,NEW.osm_id,existing.addr_place,NEW.addr_place;
2109       END IF;
2110       IF coalesce(existing.isin, '') != coalesce(NEW.isin, '') THEN
2111         RAISE WARNING 'update details, isin: % % % %',NEW.osm_type,NEW.osm_id,existing.isin,NEW.isin;
2112       END IF;
2113       IF coalesce(existing.postcode, '') != coalesce(NEW.postcode, '') THEN
2114         RAISE WARNING 'update details, postcode: % % % %',NEW.osm_type,NEW.osm_id,existing.postcode,NEW.postcode;
2115       END IF;
2116       IF coalesce(existing.country_code, '') != coalesce(NEW.country_code, '') THEN
2117         RAISE WARNING 'update details, country_code: % % % %',NEW.osm_type,NEW.osm_id,existing.country_code,NEW.country_code;
2118       END IF;
2119     END IF;
2120
2121     -- Special case for polygon shape changes because they tend to be large and we can be a bit clever about how we handle them
2122     IF existing.geometry::text != NEW.geometry::text 
2123        AND ST_GeometryType(existing.geometry) in ('ST_Polygon','ST_MultiPolygon')
2124        AND ST_GeometryType(NEW.geometry) in ('ST_Polygon','ST_MultiPolygon') 
2125        THEN 
2126
2127       -- Get the version of the geometry actually used (in placex table)
2128       select geometry from placex where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type into existinggeometry;
2129
2130       -- Performance limit
2131       IF st_area(NEW.geometry) < 0.000000001 AND st_area(existinggeometry) < 1 THEN
2132
2133         -- re-index points that have moved in / out of the polygon, could be done as a single query but postgres gets the index usage wrong
2134         update placex set indexed_status = 2 where indexed_status = 0 and 
2135             (st_covers(NEW.geometry, placex.geometry) OR ST_Intersects(NEW.geometry, placex.geometry))
2136             AND NOT (st_covers(existinggeometry, placex.geometry) OR ST_Intersects(existinggeometry, placex.geometry))
2137             AND rank_search > existingplacex.rank_search AND (rank_search < 28 or name is not null);
2138
2139         update placex set indexed_status = 2 where indexed_status = 0 and 
2140             (st_covers(existinggeometry, placex.geometry) OR ST_Intersects(existinggeometry, placex.geometry))
2141             AND NOT (st_covers(NEW.geometry, placex.geometry) OR ST_Intersects(NEW.geometry, placex.geometry))
2142             AND rank_search > existingplacex.rank_search AND (rank_search < 28 or name is not null);
2143
2144       END IF;
2145
2146     END IF;
2147
2148
2149     IF coalesce(existing.name::text, '') != coalesce(NEW.name::text, '')
2150        OR coalesce(existing.extratags::text, '') != coalesce(NEW.extratags::text, '')
2151        OR coalesce(existing.housenumber, '') != coalesce(NEW.housenumber, '')
2152        OR coalesce(existing.street, '') != coalesce(NEW.street, '')
2153        OR coalesce(existing.addr_place, '') != coalesce(NEW.addr_place, '')
2154        OR coalesce(existing.isin, '') != coalesce(NEW.isin, '')
2155        OR coalesce(existing.postcode, '') != coalesce(NEW.postcode, '')
2156        OR coalesce(existing.country_code, '') != coalesce(NEW.country_code, '')
2157        OR coalesce(existing.admin_level, 15) != coalesce(NEW.admin_level, 15)
2158        OR existing.geometry::text != NEW.geometry::text
2159        THEN
2160
2161       update place set 
2162         name = NEW.name,
2163         housenumber  = NEW.housenumber,
2164         street = NEW.street,
2165         addr_place = NEW.addr_place,
2166         isin = NEW.isin,
2167         postcode = NEW.postcode,
2168         country_code = NEW.country_code,
2169         extratags = NEW.extratags,
2170         admin_level = NEW.admin_level,
2171         geometry = NEW.geometry
2172         where osm_type = NEW.osm_type and osm_id = NEW.osm_id and class = NEW.class and type = NEW.type;
2173         
2174
2175       IF NEW.class in ('place','boundary') AND NEW.type in ('postcode','postal_code') THEN
2176           IF NEW.postcode IS NULL THEN
2177               -- postcode was deleted, no longer retain in placex
2178               DELETE FROM placex where place_id = existingplacex.place_id;
2179               RETURN NULL;
2180           END IF;
2181
2182           NEW.name := hstore('ref', NEW.postcode);
2183       END IF;
2184       
2185       update placex set 
2186         name = NEW.name,
2187         housenumber = NEW.housenumber,
2188         street = NEW.street,
2189         addr_place = NEW.addr_place,
2190         isin = NEW.isin,
2191         postcode = NEW.postcode,
2192         country_code = NEW.country_code,
2193         parent_place_id = null,
2194         extratags = NEW.extratags,
2195         admin_level = CASE WHEN NEW.admin_level > 15 THEN 15 ELSE NEW.admin_level END,
2196         indexed_status = 2,    
2197         geometry = NEW.geometry
2198         where place_id = existingplacex.place_id;
2199         
2200       -- if a node(=>house), which is part of a interpolation line, changes (e.g. the street attribute) => mark this line for reparenting 
2201       -- (already here, because interpolation lines are reindexed before nodes, so in the second call it would be too late)
2202       IF NEW.osm_type='N' and NEW.class='place' and NEW.type='house' THEN
2203           -- Is this node part of an interpolation line? search for it in location_property_osmline and mark the interpolation line for reparenting
2204           update location_property_osmline p set indexed_status = 2 from planet_osm_ways w where p.linegeo && NEW.geometry and p.osm_id = w.id and NEW.osm_id = any(w.nodes);
2205       END IF;
2206
2207     END IF;
2208
2209     -- Abort the add (we modified the existing place instead)
2210     RETURN NULL;
2211   END IF;
2212
2213 END;
2214 $$ LANGUAGE plpgsql;
2215
2216
2217 CREATE OR REPLACE FUNCTION get_name_by_language(name hstore, languagepref TEXT[]) RETURNS TEXT
2218   AS $$
2219 DECLARE
2220   result TEXT;
2221 BEGIN
2222   IF name is null THEN
2223     RETURN null;
2224   END IF;
2225
2226   FOR j IN 1..array_upper(languagepref,1) LOOP
2227     IF name ? languagepref[j] THEN
2228       result := trim(name->languagepref[j]);
2229       IF result != '' THEN
2230         return result;
2231       END IF;
2232     END IF;
2233   END LOOP;
2234
2235   -- anything will do as a fallback - just take the first name type thing there is
2236   RETURN trim((avals(name))[1]);
2237 END;
2238 $$
2239 LANGUAGE plpgsql IMMUTABLE;
2240
2241
2242 CREATE OR REPLACE FUNCTION get_address_postcode(for_place_id BIGINT) RETURNS TEXT
2243   AS $$
2244 DECLARE
2245   result TEXT[];
2246   search TEXT[];
2247   for_postcode TEXT;
2248   found INTEGER;
2249   location RECORD;
2250 BEGIN
2251
2252   found := 1000;
2253   search := ARRAY['ref'];
2254   result := '{}';
2255
2256   select postcode from placex where place_id = for_place_id limit 1 into for_postcode;
2257
2258   FOR location IN 
2259     select rank_address,name,distance,length(name::text) as namelength 
2260       from place_addressline join placex on (address_place_id = placex.place_id) 
2261       where place_addressline.place_id = for_place_id and rank_address in (5,11)
2262       order by rank_address desc,rank_search desc,fromarea desc,distance asc,namelength desc
2263   LOOP
2264     IF array_upper(search, 1) IS NOT NULL AND array_upper(location.name, 1) IS NOT NULL THEN
2265       FOR j IN 1..array_upper(search, 1) LOOP
2266         FOR k IN 1..array_upper(location.name, 1) LOOP
2267           IF (found > location.rank_address AND location.name[k].key = search[j] AND location.name[k].value != '') AND NOT result @> ARRAY[trim(location.name[k].value)] AND (for_postcode IS NULL OR location.name[k].value ilike for_postcode||'%') THEN
2268             result[(100 - location.rank_address)] := trim(location.name[k].value);
2269             found := location.rank_address;
2270           END IF;
2271         END LOOP;
2272       END LOOP;
2273     END IF;
2274   END LOOP;
2275
2276   RETURN array_to_string(result,', ');
2277 END;
2278 $$
2279 LANGUAGE plpgsql;
2280
2281 --housenumber only needed for tiger data
2282 CREATE OR REPLACE FUNCTION get_address_by_language(for_place_id BIGINT, housenumber INTEGER, languagepref TEXT[]) RETURNS TEXT
2283   AS $$
2284 DECLARE
2285   result TEXT[];
2286   currresult TEXT;
2287   prevresult TEXT;
2288   location RECORD;
2289 BEGIN
2290
2291   result := '{}';
2292   prevresult := '';
2293
2294   FOR location IN select * from get_addressdata(for_place_id, housenumber) where isaddress order by rank_address desc LOOP
2295     currresult := trim(get_name_by_language(location.name, languagepref));
2296     IF currresult != prevresult AND currresult IS NOT NULL AND result[(100 - location.rank_address)] IS NULL THEN
2297       result[(100 - location.rank_address)] := trim(get_name_by_language(location.name, languagepref));
2298       prevresult := currresult;
2299     END IF;
2300   END LOOP;
2301
2302   RETURN array_to_string(result,', ');
2303 END;
2304 $$
2305 LANGUAGE plpgsql;
2306
2307 DROP TYPE IF EXISTS addressline CASCADE;
2308 create type addressline as (
2309   place_id BIGINT,
2310   osm_type CHAR(1),
2311   osm_id BIGINT,
2312   name HSTORE,
2313   class TEXT,
2314   type TEXT,
2315   admin_level INTEGER,
2316   fromarea BOOLEAN,  
2317   isaddress BOOLEAN,  
2318   rank_address INTEGER,
2319   distance FLOAT
2320 );
2321
2322 CREATE OR REPLACE FUNCTION get_addressdata(in_place_id BIGINT, in_housenumber INTEGER) RETURNS setof addressline 
2323   AS $$
2324 DECLARE
2325   for_place_id BIGINT;
2326   result TEXT[];
2327   search TEXT[];
2328   found INTEGER;
2329   location RECORD;
2330   countrylocation RECORD;
2331   searchcountrycode varchar(2);
2332   searchhousenumber TEXT;
2333   searchhousename HSTORE;
2334   searchrankaddress INTEGER;
2335   searchpostcode TEXT;
2336   searchclass TEXT;
2337   searchtype TEXT;
2338   countryname HSTORE;
2339   hadcountry BOOLEAN;
2340 BEGIN
2341   -- first query osmline (interpolation lines)
2342   select parent_place_id, calculated_country_code, 30, postcode, null, 'place', 'house' from location_property_osmline 
2343     WHERE place_id = in_place_id AND in_housenumber>=startnumber AND in_housenumber <= endnumber
2344     INTO for_place_id,searchcountrycode, searchrankaddress, searchpostcode, searchhousename, searchclass, searchtype;
2345   IF for_place_id IS NOT NULL THEN
2346     searchhousenumber = in_housenumber::text;
2347   END IF;
2348
2349   --then query tiger data
2350   -- %NOTIGERDATA% IF 0 THEN
2351   IF for_place_id IS NULL THEN
2352     select parent_place_id,'us', 30, postcode, null, 'place', 'house' from location_property_tiger 
2353       WHERE place_id = in_place_id AND in_housenumber>=startnumber AND in_housenumber <= endnumber
2354       INTO for_place_id,searchcountrycode, searchrankaddress, searchpostcode, searchhousename, searchclass, searchtype;
2355     IF for_place_id IS NOT NULL THEN
2356       searchhousenumber = in_housenumber::text;
2357     END IF;
2358   END IF;
2359   -- %NOTIGERDATA% END IF;
2360
2361   -- %NOAUXDATA% IF 0 THEN
2362   IF for_place_id IS NULL THEN
2363     select parent_place_id,'us', housenumber, 30, postcode, null, 'place', 'house' from location_property_aux
2364       WHERE place_id = in_place_id 
2365       INTO for_place_id,searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode, searchhousename, searchclass, searchtype;
2366   END IF;
2367   -- %NOAUXDATA% END IF;
2368
2369   IF for_place_id IS NULL THEN
2370     select parent_place_id, calculated_country_code, housenumber, rank_search, postcode, name, class, type from placex 
2371       WHERE place_id = in_place_id and  rank_search > 27
2372       INTO for_place_id, searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode, searchhousename, searchclass, searchtype;
2373   END IF;
2374
2375   IF for_place_id IS NULL THEN
2376     select coalesce(linked_place_id, place_id),  calculated_country_code,
2377            housenumber, rank_search, postcode, null
2378       from placex where place_id = in_place_id
2379       INTO for_place_id, searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode, searchhousename;
2380   END IF;
2381
2382 --RAISE WARNING '% % % %',searchcountrycode, searchhousenumber, searchrankaddress, searchpostcode;
2383
2384   found := 1000;
2385   hadcountry := false;
2386   FOR location IN 
2387     select placex.place_id, osm_type, osm_id,
2388       CASE WHEN class = 'place' and type = 'postcode' THEN hstore('name', postcode) ELSE name END as name,
2389       class, type, admin_level, true as fromarea, true as isaddress,
2390       CASE WHEN rank_address = 0 THEN 100 WHEN rank_address = 11 THEN 5 ELSE rank_address END as rank_address,
2391       0 as distance, calculated_country_code, postcode
2392       from placex
2393       where place_id = for_place_id 
2394   LOOP
2395 --RAISE WARNING '%',location;
2396     IF searchcountrycode IS NULL AND location.calculated_country_code IS NOT NULL THEN
2397       searchcountrycode := location.calculated_country_code;
2398     END IF;
2399     IF searchpostcode IS NOT NULL and location.type = 'postcode' THEN
2400       location.isaddress := FALSE;
2401     END IF;
2402     IF searchpostcode IS NULL and location.postcode IS NOT NULL THEN
2403       searchpostcode := location.postcode;
2404     END IF;
2405     IF location.rank_address = 4 AND location.isaddress THEN
2406       hadcountry := true;
2407     END IF;
2408     IF location.rank_address < 4 AND NOT hadcountry THEN
2409       select name from country_name where country_code = searchcountrycode limit 1 INTO countryname;
2410       IF countryname IS NOT NULL THEN
2411         countrylocation := ROW(null, null, null, countryname, 'place', 'country', null, true, true, 4, 0)::addressline;
2412         RETURN NEXT countrylocation;
2413       END IF;
2414     END IF;
2415     countrylocation := ROW(location.place_id, location.osm_type, location.osm_id, location.name, location.class, 
2416                            location.type, location.admin_level, location.fromarea, location.isaddress, location.rank_address, 
2417                            location.distance)::addressline;
2418     RETURN NEXT countrylocation;
2419     found := location.rank_address;
2420   END LOOP;
2421
2422   FOR location IN 
2423     select placex.place_id, osm_type, osm_id,
2424       CASE WHEN class = 'place' and type = 'postcode' THEN hstore('name', postcode) ELSE name END as name,
2425       CASE WHEN extratags ? 'place' THEN 'place' ELSE class END as class,
2426       CASE WHEN extratags ? 'place' THEN extratags->'place' ELSE type END as type,
2427       admin_level, fromarea, isaddress and linked_place_id is NULL as isaddress,
2428       CASE WHEN address_place_id = for_place_id AND rank_address = 0 THEN 100 WHEN rank_address = 11 THEN 5 ELSE rank_address END as rank_address,
2429       distance,calculated_country_code,postcode
2430       from place_addressline join placex on (address_place_id = placex.place_id) 
2431       where place_addressline.place_id = for_place_id 
2432       and (cached_rank_address > 0 AND cached_rank_address < searchrankaddress)
2433       and address_place_id != for_place_id
2434       and (placex.calculated_country_code IS NULL OR searchcountrycode IS NULL OR placex.calculated_country_code = searchcountrycode)
2435       order by rank_address desc,isaddress desc,fromarea desc,distance asc,rank_search desc
2436   LOOP
2437 --RAISE WARNING '%',location;
2438     IF searchcountrycode IS NULL AND location.calculated_country_code IS NOT NULL THEN
2439       searchcountrycode := location.calculated_country_code;
2440     END IF;
2441     IF searchpostcode IS NOT NULL and location.type = 'postcode' THEN
2442       location.isaddress := FALSE;
2443     END IF;
2444     IF searchpostcode IS NULL and location.isaddress and location.type != 'postcode' and location.postcode IS NOT NULL THEN
2445       searchpostcode := location.postcode;
2446     END IF;
2447     IF location.rank_address = 4 AND location.isaddress THEN
2448       hadcountry := true;
2449     END IF;
2450     IF location.rank_address < 4 AND NOT hadcountry THEN
2451       select name from country_name where country_code = searchcountrycode limit 1 INTO countryname;
2452       IF countryname IS NOT NULL THEN
2453         countrylocation := ROW(null, null, null, countryname, 'place', 'country', null, true, true, 4, 0)::addressline;
2454         RETURN NEXT countrylocation;
2455       END IF;
2456     END IF;
2457     countrylocation := ROW(location.place_id, location.osm_type, location.osm_id, location.name, location.class, 
2458                            location.type, location.admin_level, location.fromarea, location.isaddress, location.rank_address, 
2459                            location.distance)::addressline;
2460     RETURN NEXT countrylocation;
2461     found := location.rank_address;
2462   END LOOP;
2463
2464   IF found > 4 THEN
2465     select name from country_name where country_code = searchcountrycode limit 1 INTO countryname;
2466 --RAISE WARNING '% % %',found,searchcountrycode,countryname;
2467     IF countryname IS NOT NULL THEN
2468       location := ROW(null, null, null, countryname, 'place', 'country', null, true, true, 4, 0)::addressline;
2469       RETURN NEXT location;
2470     END IF;
2471   END IF;
2472
2473   IF searchcountrycode IS NOT NULL THEN
2474     location := ROW(null, null, null, hstore('ref', searchcountrycode), 'place', 'country_code', null, true, false, 4, 0)::addressline;
2475     RETURN NEXT location;
2476   END IF;
2477
2478   IF searchhousename IS NOT NULL THEN
2479     location := ROW(in_place_id, null, null, searchhousename, searchclass, searchtype, null, true, true, 29, 0)::addressline;
2480 --    location := ROW(in_place_id, null, null, searchhousename, 'place', 'house_name', null, true, true, 29, 0)::addressline;
2481     RETURN NEXT location;
2482   END IF;
2483
2484   IF searchhousenumber IS NOT NULL THEN
2485     location := ROW(in_place_id, null, null, hstore('ref', searchhousenumber), 'place', 'house_number', null, true, true, 28, 0)::addressline;
2486     RETURN NEXT location;
2487   END IF;
2488
2489   IF searchpostcode IS NOT NULL THEN
2490     location := ROW(null, null, null, hstore('ref', searchpostcode), 'place', 'postcode', null, true, true, 5, 0)::addressline;
2491     RETURN NEXT location;
2492   END IF;
2493
2494   RETURN;
2495 END;
2496 $$
2497 LANGUAGE plpgsql;
2498
2499
2500 CREATE OR REPLACE FUNCTION update_place(search_place_id BIGINT) RETURNS BOOLEAN
2501   AS $$
2502 DECLARE
2503   numfeatures integer;
2504 BEGIN
2505   update placex set 
2506       name = place.name,
2507       housenumber = place.housenumber,
2508       street = place.street,
2509       addr_place = place.addr_place,
2510       isin = place.isin,
2511       postcode = place.postcode,
2512       country_code = place.country_code,
2513       parent_place_id = null
2514       from place
2515       where placex.place_id = search_place_id 
2516         and place.osm_type = placex.osm_type and place.osm_id = placex.osm_id
2517         and place.class = placex.class and place.type = placex.type;
2518   update placex set indexed_status = 2 where place_id = search_place_id;
2519   update placex set indexed_status = 0 where place_id = search_place_id;
2520   return true;
2521 END;
2522 $$
2523 LANGUAGE plpgsql;
2524
2525 CREATE OR REPLACE FUNCTION get_searchrank_label(rank INTEGER) RETURNS TEXT
2526   AS $$
2527 DECLARE
2528 BEGIN
2529   IF rank < 2 THEN
2530     RETURN 'Continent';
2531   ELSEIF rank < 4 THEN
2532     RETURN 'Sea';
2533   ELSEIF rank < 8 THEN
2534     RETURN 'Country';
2535   ELSEIF rank < 12 THEN
2536     RETURN 'State';
2537   ELSEIF rank < 16 THEN
2538     RETURN 'County';
2539   ELSEIF rank = 16 THEN
2540     RETURN 'City';
2541   ELSEIF rank = 17 THEN
2542     RETURN 'Town / Island';
2543   ELSEIF rank = 18 THEN
2544     RETURN 'Village / Hamlet';
2545   ELSEIF rank = 20 THEN
2546     RETURN 'Suburb';
2547   ELSEIF rank = 21 THEN
2548     RETURN 'Postcode Area';
2549   ELSEIF rank = 22 THEN
2550     RETURN 'Croft / Farm / Locality / Islet';
2551   ELSEIF rank = 23 THEN
2552     RETURN 'Postcode Area';
2553   ELSEIF rank = 25 THEN
2554     RETURN 'Postcode Point';
2555   ELSEIF rank = 26 THEN
2556     RETURN 'Street / Major Landmark';
2557   ELSEIF rank = 27 THEN
2558     RETURN 'Minory Street / Path';
2559   ELSEIF rank = 28 THEN
2560     RETURN 'House / Building';
2561   ELSE
2562     RETURN 'Other: '||rank;
2563   END IF;
2564   
2565 END;
2566 $$
2567 LANGUAGE plpgsql;
2568
2569 CREATE OR REPLACE FUNCTION get_addressrank_label(rank INTEGER) RETURNS TEXT
2570   AS $$
2571 DECLARE
2572 BEGIN
2573   IF rank = 0 THEN
2574     RETURN 'None';
2575   ELSEIF rank < 2 THEN
2576     RETURN 'Continent';
2577   ELSEIF rank < 4 THEN
2578     RETURN 'Sea';
2579   ELSEIF rank = 5 THEN
2580     RETURN 'Postcode';
2581   ELSEIF rank < 8 THEN
2582     RETURN 'Country';
2583   ELSEIF rank < 12 THEN
2584     RETURN 'State';
2585   ELSEIF rank < 16 THEN
2586     RETURN 'County';
2587   ELSEIF rank = 16 THEN
2588     RETURN 'City';
2589   ELSEIF rank = 17 THEN
2590     RETURN 'Town / Village / Hamlet';
2591   ELSEIF rank = 20 THEN
2592     RETURN 'Suburb';
2593   ELSEIF rank = 21 THEN
2594     RETURN 'Postcode Area';
2595   ELSEIF rank = 22 THEN
2596     RETURN 'Croft / Farm / Locality / Islet';
2597   ELSEIF rank = 23 THEN
2598     RETURN 'Postcode Area';
2599   ELSEIF rank = 25 THEN
2600     RETURN 'Postcode Point';
2601   ELSEIF rank = 26 THEN
2602     RETURN 'Street / Major Landmark';
2603   ELSEIF rank = 27 THEN
2604     RETURN 'Minory Street / Path';
2605   ELSEIF rank = 28 THEN
2606     RETURN 'House / Building';
2607   ELSE
2608     RETURN 'Other: '||rank;
2609   END IF;
2610   
2611 END;
2612 $$
2613 LANGUAGE plpgsql;
2614
2615 CREATE OR REPLACE FUNCTION aux_create_property(pointgeo GEOMETRY, in_housenumber TEXT, 
2616   in_street TEXT, in_isin TEXT, in_postcode TEXT, in_countrycode char(2)) RETURNS INTEGER
2617   AS $$
2618 DECLARE
2619
2620   newpoints INTEGER;
2621   place_centroid GEOMETRY;
2622   out_partition INTEGER;
2623   out_parent_place_id BIGINT;
2624   location RECORD;
2625   address_street_word_id INTEGER;  
2626   out_postcode TEXT;
2627
2628 BEGIN
2629
2630   place_centroid := ST_Centroid(pointgeo);
2631   out_partition := get_partition(in_countrycode);
2632   out_parent_place_id := null;
2633
2634   address_street_word_id := get_name_id(make_standard_name(in_street));
2635   IF address_street_word_id IS NOT NULL THEN
2636     FOR location IN SELECT * from getNearestNamedRoadFeature(out_partition, place_centroid, address_street_word_id) LOOP
2637       out_parent_place_id := location.place_id;
2638     END LOOP;
2639   END IF;
2640
2641   IF out_parent_place_id IS NULL THEN
2642     FOR location IN SELECT place_id FROM getNearestRoadFeature(out_partition, place_centroid) LOOP
2643       out_parent_place_id := location.place_id;
2644     END LOOP;    
2645   END IF;
2646
2647   out_postcode := in_postcode;
2648   IF out_postcode IS NULL THEN
2649     SELECT postcode from placex where place_id = out_parent_place_id INTO out_postcode;
2650   END IF;
2651   IF out_postcode IS NULL THEN
2652     out_postcode := getNearestPostcode(out_partition, place_centroid);
2653   END IF;
2654
2655   newpoints := 0;
2656   insert into location_property_aux (place_id, partition, parent_place_id, housenumber, postcode, centroid)
2657     values (nextval('seq_place'), out_partition, out_parent_place_id, in_housenumber, out_postcode, place_centroid);
2658   newpoints := newpoints + 1;
2659
2660   RETURN newpoints;
2661 END;
2662 $$
2663 LANGUAGE plpgsql;
2664
2665 CREATE OR REPLACE FUNCTION get_osm_rel_members(members TEXT[], member TEXT) RETURNS TEXT[]
2666   AS $$
2667 DECLARE
2668   result TEXT[];
2669   i INTEGER;
2670 BEGIN
2671
2672   FOR i IN 1..ARRAY_UPPER(members,1) BY 2 LOOP
2673     IF members[i+1] = member THEN
2674       result := result || members[i];
2675     END IF;
2676   END LOOP;
2677
2678   return result;
2679 END;
2680 $$
2681 LANGUAGE plpgsql;
2682
2683 CREATE OR REPLACE FUNCTION get_osm_rel_members(members TEXT[], memberLabels TEXT[]) RETURNS SETOF TEXT
2684   AS $$
2685 DECLARE
2686   i INTEGER;
2687 BEGIN
2688
2689   FOR i IN 1..ARRAY_UPPER(members,1) BY 2 LOOP
2690     IF members[i+1] = ANY(memberLabels) THEN
2691       RETURN NEXT members[i];
2692     END IF;
2693   END LOOP;
2694
2695   RETURN;
2696 END;
2697 $$
2698 LANGUAGE plpgsql;
2699
2700 -- See: http://stackoverflow.com/questions/6410088/how-can-i-mimic-the-php-urldecode-function-in-postgresql
2701 CREATE OR REPLACE FUNCTION decode_url_part(p varchar) RETURNS varchar 
2702   AS $$
2703 SELECT convert_from(CAST(E'\\x' || array_to_string(ARRAY(
2704     SELECT CASE WHEN length(r.m[1]) = 1 THEN encode(convert_to(r.m[1], 'SQL_ASCII'), 'hex') ELSE substring(r.m[1] from 2 for 2) END
2705     FROM regexp_matches($1, '%[0-9a-f][0-9a-f]|.', 'gi') AS r(m)
2706 ), '') AS bytea), 'UTF8');
2707 $$ 
2708 LANGUAGE SQL IMMUTABLE STRICT;
2709
2710 CREATE OR REPLACE FUNCTION catch_decode_url_part(p varchar) RETURNS varchar
2711   AS $$
2712 DECLARE
2713 BEGIN
2714   RETURN decode_url_part(p);
2715 EXCEPTION
2716   WHEN others THEN return null;
2717 END;
2718 $$
2719 LANGUAGE plpgsql IMMUTABLE;
2720
2721 DROP TYPE wikipedia_article_match CASCADE;
2722 create type wikipedia_article_match as (
2723   language TEXT,
2724   title TEXT,
2725   importance FLOAT
2726 );
2727
2728 CREATE OR REPLACE FUNCTION get_wikipedia_match(extratags HSTORE, country_code varchar(2)) RETURNS wikipedia_article_match
2729   AS $$
2730 DECLARE
2731   langs TEXT[];
2732   i INT;
2733   wiki_article TEXT;
2734   wiki_article_title TEXT;
2735   wiki_article_language TEXT;
2736   result wikipedia_article_match;
2737 BEGIN
2738   langs := ARRAY['english','country','ar','bg','ca','cs','da','de','en','es','eo','eu','fa','fr','ko','hi','hr','id','it','he','lt','hu','ms','nl','ja','no','pl','pt','kk','ro','ru','sk','sl','sr','fi','sv','tr','uk','vi','vo','war','zh'];
2739   i := 1;
2740   WHILE langs[i] IS NOT NULL LOOP
2741     wiki_article := extratags->(case when langs[i] in ('english','country') THEN 'wikipedia' ELSE 'wikipedia:'||langs[i] END);
2742     IF wiki_article is not null THEN
2743       wiki_article := regexp_replace(wiki_article,E'^(.*?)([a-z]{2,3}).wikipedia.org/wiki/',E'\\2:');
2744       wiki_article := regexp_replace(wiki_article,E'^(.*?)([a-z]{2,3}).wikipedia.org/w/index.php\\?title=',E'\\2:');
2745       wiki_article := regexp_replace(wiki_article,E'^(.*?)/([a-z]{2,3})/wiki/',E'\\2:');
2746       --wiki_article := regexp_replace(wiki_article,E'^(.*?)([a-z]{2,3})[=:]',E'\\2:');
2747       wiki_article := replace(wiki_article,' ','_');
2748       IF strpos(wiki_article, ':') IN (3,4) THEN
2749         wiki_article_language := lower(trim(split_part(wiki_article, ':', 1)));
2750         wiki_article_title := trim(substr(wiki_article, strpos(wiki_article, ':')+1));
2751       ELSE
2752         wiki_article_title := trim(wiki_article);
2753         wiki_article_language := CASE WHEN langs[i] = 'english' THEN 'en' WHEN langs[i] = 'country' THEN get_country_language_code(country_code) ELSE langs[i] END;
2754       END IF;
2755
2756       select wikipedia_article.language,wikipedia_article.title,wikipedia_article.importance
2757         from wikipedia_article 
2758         where language = wiki_article_language and 
2759         (title = wiki_article_title OR title = catch_decode_url_part(wiki_article_title) OR title = replace(catch_decode_url_part(wiki_article_title),E'\\',''))
2760       UNION ALL
2761       select wikipedia_article.language,wikipedia_article.title,wikipedia_article.importance
2762         from wikipedia_redirect join wikipedia_article on (wikipedia_redirect.language = wikipedia_article.language and wikipedia_redirect.to_title = wikipedia_article.title)
2763         where wikipedia_redirect.language = wiki_article_language and 
2764         (from_title = wiki_article_title OR from_title = catch_decode_url_part(wiki_article_title) OR from_title = replace(catch_decode_url_part(wiki_article_title),E'\\',''))
2765       order by importance desc limit 1 INTO result;
2766
2767       IF result.language is not null THEN
2768         return result;
2769       END IF;
2770     END IF;
2771     i := i + 1;
2772   END LOOP;
2773   RETURN NULL;
2774 END;
2775 $$
2776 LANGUAGE plpgsql;
2777
2778 CREATE OR REPLACE FUNCTION quad_split_geometry(geometry GEOMETRY, maxarea FLOAT, maxdepth INTEGER) 
2779   RETURNS SETOF GEOMETRY
2780   AS $$
2781 DECLARE
2782   xmin FLOAT;
2783   ymin FLOAT;
2784   xmax FLOAT;
2785   ymax FLOAT;
2786   xmid FLOAT;
2787   ymid FLOAT;
2788   secgeo GEOMETRY;
2789   secbox GEOMETRY;
2790   seg INTEGER;
2791   geo RECORD;
2792   area FLOAT;
2793   remainingdepth INTEGER;
2794   added INTEGER;
2795   
2796 BEGIN
2797
2798 --  RAISE WARNING 'quad_split_geometry: maxarea=%, depth=%',maxarea,maxdepth;
2799
2800   IF (ST_GeometryType(geometry) not in ('ST_Polygon','ST_MultiPolygon') OR NOT ST_IsValid(geometry)) THEN
2801     RETURN NEXT geometry;
2802     RETURN;
2803   END IF;
2804
2805   remainingdepth := maxdepth - 1;
2806   area := ST_AREA(geometry);
2807   IF remainingdepth < 1 OR area < maxarea THEN
2808     RETURN NEXT geometry;
2809     RETURN;
2810   END IF;
2811
2812   xmin := st_xmin(geometry);
2813   xmax := st_xmax(geometry);
2814   ymin := st_ymin(geometry);
2815   ymax := st_ymax(geometry);
2816   secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(ymin,xmin),ST_Point(ymax,xmax)),4326);
2817
2818   -- if the geometry completely covers the box don't bother to slice any more
2819   IF ST_AREA(secbox) = area THEN
2820     RETURN NEXT geometry;
2821     RETURN;
2822   END IF;
2823
2824   xmid := (xmin+xmax)/2;
2825   ymid := (ymin+ymax)/2;
2826
2827   added := 0;
2828   FOR seg IN 1..4 LOOP
2829
2830     IF seg = 1 THEN
2831       secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(xmin,ymin),ST_Point(xmid,ymid)),4326);
2832     END IF;
2833     IF seg = 2 THEN
2834       secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(xmin,ymid),ST_Point(xmid,ymax)),4326);
2835     END IF;
2836     IF seg = 3 THEN
2837       secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(xmid,ymin),ST_Point(xmax,ymid)),4326);
2838     END IF;
2839     IF seg = 4 THEN
2840       secbox := ST_SetSRID(ST_MakeBox2D(ST_Point(xmid,ymid),ST_Point(xmax,ymax)),4326);
2841     END IF;
2842
2843     IF st_intersects(geometry, secbox) THEN
2844       secgeo := st_intersection(geometry, secbox);
2845       IF NOT ST_IsEmpty(secgeo) AND ST_GeometryType(secgeo) in ('ST_Polygon','ST_MultiPolygon') THEN
2846         FOR geo IN select quad_split_geometry(secgeo, maxarea, remainingdepth) as geom LOOP
2847           IF NOT ST_IsEmpty(geo.geom) AND ST_GeometryType(geo.geom) in ('ST_Polygon','ST_MultiPolygon') THEN
2848             added := added + 1;
2849             RETURN NEXT geo.geom;
2850           END IF;
2851         END LOOP;
2852       END IF;
2853     END IF;
2854   END LOOP;
2855
2856   RETURN;
2857 END;
2858 $$
2859 LANGUAGE plpgsql;
2860
2861 CREATE OR REPLACE FUNCTION split_geometry(geometry GEOMETRY) 
2862   RETURNS SETOF GEOMETRY
2863   AS $$
2864 DECLARE
2865   geo RECORD;
2866 BEGIN
2867   -- 10000000000 is ~~ 1x1 degree
2868   FOR geo IN select quad_split_geometry(geometry, 0.25, 20) as geom LOOP
2869     RETURN NEXT geo.geom;
2870   END LOOP;
2871   RETURN;
2872 END;
2873 $$
2874 LANGUAGE plpgsql;
2875
2876
2877 CREATE OR REPLACE FUNCTION place_force_delete(placeid BIGINT) RETURNS BOOLEAN
2878   AS $$
2879 DECLARE
2880     osmid BIGINT;
2881     osmtype character(1);
2882     pclass text;
2883     ptype text;
2884 BEGIN
2885   SELECT osm_type, osm_id, class, type FROM placex WHERE place_id = placeid INTO osmtype, osmid, pclass, ptype;
2886   DELETE FROM import_polygon_delete where osm_type = osmtype and osm_id = osmid and class = pclass and type = ptype;
2887   DELETE FROM import_polygon_error where osm_type = osmtype and osm_id = osmid and class = pclass and type = ptype;
2888   -- force delete from place/placex by making it a very small geometry
2889   UPDATE place set geometry = ST_SetSRID(ST_Point(0,0), 4326) where osm_type = osmtype and osm_id = osmid and class = pclass and type = ptype;
2890   DELETE FROM place where osm_type = osmtype and osm_id = osmid and class = pclass and type = ptype;
2891
2892   RETURN TRUE;
2893 END;
2894 $$
2895 LANGUAGE plpgsql;
2896
2897 CREATE OR REPLACE FUNCTION place_force_update(placeid BIGINT) RETURNS BOOLEAN
2898   AS $$
2899 DECLARE
2900   placegeom GEOMETRY;
2901   geom GEOMETRY;
2902   diameter FLOAT;
2903   rank INTEGER;
2904 BEGIN
2905   UPDATE placex SET indexed_status = 2 WHERE place_id = placeid;
2906   SELECT geometry, rank_search FROM placex WHERE place_id = placeid INTO placegeom, rank;
2907   IF placegeom IS NOT NULL AND ST_IsValid(placegeom) THEN
2908     IF ST_GeometryType(placegeom) in ('ST_Polygon','ST_MultiPolygon') THEN
2909       FOR geom IN select split_geometry(placegeom) FROM placex WHERE place_id = placeid LOOP
2910         update placex set indexed_status = 2 where (st_covers(geom, placex.geometry) OR ST_Intersects(geom, placex.geometry)) 
2911         AND rank_search > rank and indexed_status = 0 and ST_geometrytype(placex.geometry) = 'ST_Point' and (rank_search < 28 or name is not null or (rank >= 16 and addr_place is not null));
2912         update placex set indexed_status = 2 where (st_covers(geom, placex.geometry) OR ST_Intersects(geom, placex.geometry)) 
2913         AND rank_search > rank and indexed_status = 0 and ST_geometrytype(placex.geometry) != 'ST_Point' and (rank_search < 28 or name is not null or (rank >= 16 and addr_place is not null));
2914       END LOOP;
2915     ELSE
2916         diameter := 0;
2917         IF rank = 11 THEN
2918           diameter := 0.05;
2919         ELSEIF rank < 18 THEN
2920           diameter := 0.1;
2921         ELSEIF rank < 20 THEN
2922           diameter := 0.05;
2923         ELSEIF rank = 21 THEN
2924           diameter := 0.001;
2925         ELSEIF rank < 24 THEN
2926           diameter := 0.02;
2927         ELSEIF rank < 26 THEN
2928           diameter := 0.002; -- 100 to 200 meters
2929         ELSEIF rank < 28 THEN
2930           diameter := 0.001; -- 50 to 100 meters
2931         END IF;
2932         IF diameter > 0 THEN
2933           IF rank >= 26 THEN
2934             -- roads may cause reparenting for >27 rank places
2935             update placex set indexed_status = 2 where indexed_status = 0 and rank_search > rank and ST_DWithin(placex.geometry, placegeom, diameter);
2936           ELSEIF rank >= 16 THEN
2937             -- up to rank 16, street-less addresses may need reparenting
2938             update placex set indexed_status = 2 where indexed_status = 0 and rank_search > rank and ST_DWithin(placex.geometry, placegeom, diameter) and (rank_search < 28 or name is not null or addr_place is not null);
2939           ELSE
2940             -- for all other places the search terms may change as well
2941             update placex set indexed_status = 2 where indexed_status = 0 and rank_search > rank and ST_DWithin(placex.geometry, placegeom, diameter) and (rank_search < 28 or name is not null);
2942           END IF;
2943         END IF;
2944     END IF;
2945     RETURN TRUE;
2946   END IF;
2947
2948   RETURN FALSE;
2949 END;
2950 $$
2951 LANGUAGE plpgsql;