]> git.openstreetmap.org Git - chef.git/blob - cookbooks/tilecache/templates/default/nginx_tile.conf.erb
tilecache: add tile_siblings to nginx
[chef.git] / cookbooks / tilecache / templates / default / nginx_tile.conf.erb
1 # DO NOT EDIT - This file is being maintained by Chef
2
3 upstream tile_cache_backend {
4   server 127.0.0.1:8080;
5   server 127.0.0.2:8080;
6
7   # Add the other caches to relieve pressure if local squid failing
8   # Balancer: round-robin
9 <% server_weight = 10 -%>
10 <% @node[:tilecache][:tile_siblings].each do |cache_peer| -%>
11 <% @caches.each do |cache| -%>
12 <% if cache_peer == cache[:fqdn] -%>
13 <% if cache[:hostname] != node[:hostname] -%>
14 <% cache.ipaddresses(:family => :inet, :role => :external).sort.each do |address| -%>
15   server <%= address %>:80 weight=<%= server_weight.div(5) %>; # Server <%= cache[:hostname] %>
16 <% server_weight += 5 -%>
17 <% end -%>
18 <% end -%>
19 <% end -%>
20 <% end -%>
21 <% end -%>
22 }
23
24 # Geo Map of tile caches
25 geo $tile_cache {
26   default 0;
27 <% @caches.each do |cache| -%>
28 <% cache.ipaddresses(:family => :inet, :role => :external).sort.each do |address| -%>
29   <%= address %> 1; # <%= cache[:hostname] %>
30 <% end -%>
31 <% end -%>
32 }
33
34 # Rates table based on current cookie value
35 # map $cookie__osm_totp_token $limit_rate_qos {
36 #  include /etc/nginx/conf.d/tile_qos_rates.map;
37 # }
38
39 # Set-Cookie table based on current cookie value
40 # map $cookie__osm_totp_token $cookie_qos_token_set {
41 #  include /etc/nginx/conf.d/tile_qos_cookies.map;
42 # }
43
44 map $http_user_agent $approved_scraper {
45   default                   0; # Not approved
46   '~^JOSM\/'                1; # JOSM
47   '~^Mozilla\/5\.0\ QGIS\/' 1; # QGIS
48 }
49
50 map $http_user_agent $denied_scraper {
51   default                0; # Not denied
52   ''                     1; # No User-Agent Set
53   '~^Python\-urllib\/'   1; # Library Default
54   '~^python\-requests\/' 1; # Library Default
55   '~^node\-fetch\/'      1; # Library Default
56   '~^R$'                 1; # Library Default
57   '~^Java\/'             1; # Library Default
58   '~^tiles$'             1; # Library Default
59   '~^okhttp\/'           1; # Library Default
60   '~^Microsoft-ATL-Native\/' 1; # Library Default
61   '/n software IPWorks HTTP/S Component - www.nsoftware.com' 1; #Library default
62   '~^Wget\/'             1; # Library Default
63   'C# TilesDownloader'   1; # Downloader
64   'MapDownloader'        1; # Downloader
65   '~^staticmaps'         1; # Downloader
66   'Android'              1; # Default or fake
67   'kc_android'           1; # Default or fake
68   'Mozilla/4.0'          1; # Fake
69   'Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1)' 1;  # Fake
70   '~^runtastic'          1; # App
71   '~^Where\ my\ children' 1; # App
72   'nossoonibusjp.android.crosswalk' 1; # App
73   'br.com.concisoti.potybus' 1; # App
74   'com.soft373.taptaxi'  1;
75   'com.kradac.ktxcore'   1;
76   'ru.crowdsystems.topcontrol.knd' 1;
77   'pl.itaxi.driver'      1;
78   'net.uztaxi.driver'    1;
79   'OSMDroid/2.1 (its; rutaxi 3.28.0)' 1;
80   'com.helleniccomms.mercedes.driver' 1;
81   'ru.taximaster.www'    1;
82   'com.arobs.trackgps'   1;
83   'com.helleniccomms.asteras.driver' 1;
84   # '~[a-f0-9]{8}-[a-f0-9]{4}-[a-f0-9]{4}-[a-f0-9]{12}' 1; # Fake UA
85 }
86
87 map $http_referer $denied_referer {
88   default                          0; # Not denied
89   'http://www.openstreetmap.org/'  1; # Faked
90   'http://www.openstreetmap.org'   1; # Faked
91   'https://www.openstreetmap.org'  1; # Faked
92   'http://openstreetmap.org/'      1; # Faked
93   'http://openstreetmap.org'       1; # Faked
94   'https://openstreetmap.org'      1; # Faked
95   'http://www.osm.org/'            1; # Faked
96   'http://www.osm.org'             1; # Faked
97   'http://osm.org/'                1; # Faked
98   'http://osm.org'                 1; # Faked
99   'http://google.com'              1; # Faked
100   'http://www.google.com'          1; # Faked
101   'http://google.com/'             1; # Faked
102   'http://www.google.com/'         1; # Faked
103   'https://google.com'             1; # Faked
104   'https://www.google.com'         1; # Faked
105   'https://google.com/'            1; # Faked
106   'https://www.google.com/'        1; # Faked
107   'http://www.microsoft.com/'      1; # Faked
108   '~^https?://pmap\.kuku\.lu/'           1; # Too much traffic
109   '~^https?://[^.]*\.pmap\.kuku\.lu/'    1; # Too much traffic
110   '~^https?://fastpokemap\.com/'         1; # Too much traffic
111   '~^https?://[^.]*\.fastpokemap\.com/'  1; # Too much traffic
112   '~^https?://pkget\.com/'               1; # Too much traffic
113   '~^https?://[^.]*\.pkget\.com/'        1; # Too much traffic
114   '~^https?://twpkinfo\.com/'            1; # Too much traffic
115   '~^https?://[^.]*\.twpkinfo\.com/'     1; # Too much traffic
116   '~^https?://9db\.jp/'                  1; # Too much traffic
117   '~^https?://[^.]*\.9db\.jp/'           1; # Too much traffic
118   '~^https?://clustrmaps\.com/'          1; # Too much traffic
119   '~^https?://[^.]*\.clustrmaps\.com/'   1; # Too much traffic
120 }
121
122 map $http_referer $osm_referer {
123   default                                 '';    # False
124   '~^https:\/\/www\.openstreetmap\.org\/' 'osm'; # True
125 }
126
127 # Limit Cache-Control header to only approved User-Agents
128 map $osm_referer$http_user_agent $limit_http_cache_control {
129   default '';                                # Unset Header
130   '~^osmMozilla\/5\.0\ QGIS\/' '';            # Unset Header
131   '~^osmMozilla\/5\.0\ ' $http_cache_control; # Pass Header
132 }
133
134 # Limit Pragma header to only approved User-Agents
135 map $osm_referer$http_user_agent $limit_http_pragma {
136   default '';                          # Unset Header
137   '~^osmMozilla\/5\.0\ QGIS\/' '';     # Unset Header
138   '~^osmMozilla\/5\.0\ ' $http_pragma; # Pass Header
139 }
140
141 # Find Browser User-Agents which are not sending a referer.
142 # Browsers with no referer could be due to Browser extension or website Referrer-Policy
143 map $http_referer$scheme$http_user_agent $deny_missing_referer {
144   default                             0; # Not denied
145   '~^httpsMozilla\/5\.0\ \(X11'       1;
146   '~^httpsMozilla\/5\.0\ \(Windows'   1;
147   '~^httpsMozilla\/5\.0\ \(iPhone'    1;
148   '~^httpsMozilla\/5\.0\ \(Macintosh' 1;
149   '~^httpsMozilla\/5\.0\ \(Linux'     1;
150 }
151
152 server {
153     # IPv4
154     listen       80 deferred backlog=16384 reuseport fastopen=2048 default_server;
155     listen       443 ssl deferred backlog=16384 reuseport fastopen=2048 http2 default_server;
156     # IPv6
157     listen       [::]:80 deferred backlog=16384 reuseport fastopen=2048 default_server;
158     listen       [::]:443 ssl deferred backlog=16384 reuseport fastopen=2048 http2 default_server;
159     server_name  localhost;
160
161     proxy_buffers 8 64k;
162     proxy_busy_buffers_size 64k;
163
164     ssl_certificate      /etc/ssl/certs/tile.openstreetmap.org.pem;
165     ssl_certificate_key  /etc/ssl/private/tile.openstreetmap.org.key;
166
167     # Requests sent within early data are subject to replay attacks.
168     # See: http://nginx.org/en/docs/http/ngx_http_ssl_module.html#ssl_early_data
169     ssl_early_data on;
170
171     # Immediately 404 layers we do not support
172 <% for i in 20..99 do %>
173     location /<%= i %>/ {
174       set $limit_rate 512;
175       return 404;
176     }
177 <% end %>
178
179     # Immediately 404 silly tile requests
180     location = /0/0/-1.png {
181       set $limit_rate 512;
182       return 404;
183     }
184     location = /1/0/-1.png {
185       set $limit_rate 512;
186       return 404;
187     }
188     location = /1/-1/0.png {
189       set $limit_rate 512;
190       return 404;
191     }
192     location = /1/-1/1.png {
193       set $limit_rate 512;
194       return 404;
195     }
196     location = /1/-1/-1.png {
197       set $limit_rate 512;
198       return 404;
199     }
200     location = /1/-1/2.png {
201       set $limit_rate 512;
202       return 404;
203     }
204     location = /1/1/-1.png {
205       set $limit_rate 512;
206       return 404;
207     }
208     location = /1/2/-1.png {
209       set $limit_rate 512;
210       return 404;
211     }
212     location = /2/0/-1.png {
213       set $limit_rate 512;
214       return 404;
215     }
216     location = /2/-1/0.png {
217       set $limit_rate 512;
218       return 404;
219     }
220     location = /2/-1/1.png {
221       set $limit_rate 512;
222       return 404;
223     }
224     location = /2/1/-1.png {
225       set $limit_rate 512;
226       return 404;
227     }
228     location = /2/-1/2.png {
229       set $limit_rate 512;
230       return 404;
231     }
232     location = /2/-1/3.png {
233       set $limit_rate 512;
234       return 404;
235     }
236
237 <% for i in 0..16 do %>
238 <% if i == 0 -%>
239     # Default Fallback Location Handler (lowest)
240     location / {
241 <% elsif -%>
242     # Dedicated zoom handler for caching
243     location /<%= i %>/ {
244 <% end %>
245       # Only allow GET / HEAD / OPTIONS (CORS) requests
246       limit_except GET HEAD OPTIONS {
247         deny all;
248       }
249
250       proxy_pass http://tile_cache_backend;
251       proxy_set_header X-Forwarded-For $remote_addr;
252       proxy_http_version 1.1;
253       proxy_set_header Connection '';
254
255       proxy_connect_timeout 20s;
256
257       # Replace host header.
258       proxy_set_header Host 'tile.openstreetmap.org';
259       # Do not pass cookies to backends.
260       proxy_set_header Cookie '';
261       # Do not pass Accept-Encoding to backends.
262       proxy_set_header Accept-Encoding '';
263       # Do not pass Accept to backends.
264       proxy_set_header Accept '';
265       # Do not pass Accept-Language to backends as unused.
266       proxy_set_header Accept-Language '';
267       proxy_set_header Accept-Charset '';
268       # Do not send origin, we allow all.
269       proxy_set_header origin '';
270       # Do not pass invalid headers to backend.
271       proxy_set_header X-Forwarded-Host '';
272       proxy_set_header X-Host '';
273       proxy_set_header Authorization '';
274       proxy_set_header Proxy-Authorization '';
275
276       # Drop partial requests
277       proxy_set_header range '';
278
279       # Do not allow setting cookies from backends due to caching.
280       proxy_ignore_headers Set-Cookie;
281       proxy_hide_header Set-Cookie;
282
283 <% if i != 0 -%>
284       # Caching
285       proxy_cache "proxy_cache_zone";
286       proxy_cache_lock on;
287       proxy_cache_valid 200 2d;
288       proxy_cache_valid 404 15m;
289       # Serve stale cache on errors or if updating
290       proxy_cache_use_stale error timeout updating http_404 http_500 http_503 http_504;
291       # If in cache as stale, serve stale and update in background
292       proxy_cache_background_update on;
293       # Workaround nginx async bug which causes stale cache replies to wait for the async backend cache update reply (seen in v1.16.0)
294       keepalive_requests 0;
295       # Enable revalidation using If-Modified-Since and If-None-Match for stale items
296       proxy_cache_revalidate on;
297       proxy_cache_min_uses 4;
298
299       add_header x-cache-status $upstream_cache_status;
300 <% else %>
301       # Severely rate limit Browser UAs which are not sending a referer.
302       # With no referer we do not know who is using tiles
303       if ($deny_missing_referer) {
304         set $limit_rate 1024;
305         add_header x-cache-ratelimit "missing-referer";
306       }
307 <% end -%>
308
309       # Set a QoS cookie if none presented (uses nginx Map)
310       # add_header Set-Cookie $cookie_qos_token_set;
311 <% if node[:ssl][:strict_transport_security] -%>
312       # Ensure Strict-Transport-Security header is removed from proxied server responses
313       proxy_hide_header Strict-Transport-Security;
314
315       # Enable HSTS
316       add_header Strict-Transport-Security "<%= node[:ssl][:strict_transport_security] %>" always;
317 <% end -%>
318
319       # QoS Traffic Rate see $limit_rate on http://nginx.org/en/docs/http/ngx_http_core_module.html
320       # set $limit_rate $limit_rate_qos;
321
322       # Allow Higher Traffic Rate from Approved User-Agents which do not support cookies (uses nginx Map)
323       # if ($approved_scraper) {
324       #   set $limit_rate 65536;
325       # }
326
327       if ($denied_scraper) {
328         set $limit_rate 512;
329         return 429;
330       }
331       if ($denied_referer) {
332         set $limit_rate 512;
333         return 418;
334       }
335
336       # Strip any ?query parameters from urls
337       set $args '';
338
339       # Allow cache purging headers only from select User-Agents (uses nginx Map)
340       proxy_set_header Cache-Control $limit_http_cache_control;
341       proxy_set_header Pragma $limit_http_pragma;
342     }
343 <% end %>
344 }