nominatim/tokenizer/sanitizers/clean_housenumbers.py

   1 # SPDX-License-Identifier: GPL-2.0-only
   2 #
   3 # This file is part of Nominatim. (https://nominatim.org)
   4 #
   5 # Copyright (C) 2022 by the Nominatim developer community.
   6 # For a full list of authors see the git log.
   7 """
   8 Sanitizer that preprocesses address tags for house numbers. The sanitizer
   9 allows to
  10
  11 * define which tags are to be considered house numbers (see 'filter-kind')
  12 * split house number lists into individual numbers (see 'delimiters')
  13
  14 Arguments:
  15     delimiters: Define the set of characters to be used for
  16                 splitting a list of house numbers into parts. (default: ',;')
  17     filter-kind: Define the address tags that are considered to be a
  18                  house number. Either takes a single string or a list of strings,
  19                  where each string is a regular expression. An address item
  20                  is considered a house number if the 'kind' fully matches any
  21                  of the given regular expressions. (default: 'housenumber')
  22
  23 """
  24 from nominatim.tokenizer.sanitizers.helpers import create_split_regex, create_kind_filter
  25
  26 class _HousenumberSanitizer:
  27
  28     def __init__(self, config):
  29         self.filter_kind = create_kind_filter(config, 'housenumber')
  30         self.split_regexp = create_split_regex(config)
  31
  32         nameregexps = config.get('is-a-name', [])
  33         self.is_name_regexp = [re.compile(r) for r in nameregexps]
  34
  35
  36
  37     def __call__(self, obj):
  38         if not obj.address:
  39             return
  40
  41         new_address = []
  42         for item in obj.address:
  43             if self.filter_kind(item):
  44                 if self.treat_as_name(item.name):
  45                     obj.names.append(item.clone(kind='housenumber'))
  46                 else:
  47                     new_address.extend(item.clone(kind='housenumber', name=n)
  48                                        for n in self.sanitize(item.name))
  49             else:
  50                 # Don't touch other address items.
  51                 new_address.append(item)
  52
  53         obj.address = new_address
  54
  55
  56     def sanitize(self, value):
  57         """ Extract housenumbers in a regularized format from an OSM value.
  58
  59             The function works as a generator that yields all valid housenumbers
  60             that can be created from the value.
  61         """
  62         for hnr in self.split_regexp.split(value):
  63             if hnr:
  64                 yield from self._regularize(hnr)
  65
  66
  67     @staticmethod
  68     def _regularize(hnr):
  69         yield hnr
  70
  71
  72     def _treat_as_name(self, housenumber):
  73         return any(r.fullmatch(housenumber) is not None for r in self.is_name_regexp)
  74
  75
  76 def create(config):
  77     """ Create a housenumber processing function.
  78     """
  79
  80     return _HousenumberSanitizer(config)