]> git.openstreetmap.org Git - chef.git/blob - cookbooks/tilecache/templates/default/nginx_tile.conf.erb
tilecache: block 9db.jp referer
[chef.git] / cookbooks / tilecache / templates / default / nginx_tile.conf.erb
1 # DO NOT EDIT - This file is being maintained by Chef
2
3 upstream tile_cache_backend {
4   server 127.0.0.1:8080;
5   server 127.0.0.2:8080;
6
7   # Add the other caches to relieve pressure if local squid failing
8   # Balancer: round-robin
9 <% @caches.each do |cache| -%>
10 <% if cache[:hostname] != node[:hostname] -%>
11 <% cache.ipaddresses(:family => :inet, :role => :external).sort.each do |address| -%>
12   server <%= address %>:80 backup; # Server <%= cache[:hostname] %>
13 <% end -%>
14 <% end -%>
15 <% end -%>
16
17   keepalive 512;
18   keepalive_requests 1024;
19 }
20
21 # Geo Map of tile caches
22 geo $tile_cache {
23   default 0;
24 <% @caches.each do |cache| -%>
25 <% cache.ipaddresses(:family => :inet, :role => :external).sort.each do |address| -%>
26   <%= address %> 1; # <%= cache[:hostname] %>
27 <% end -%>
28 <% end -%>
29 }
30
31 # Rates table based on current cookie value
32 # map $cookie__osm_totp_token $limit_rate_qos {
33 #  include /etc/nginx/conf.d/tile_qos_rates.map;
34 # }
35
36 # Set-Cookie table based on current cookie value
37 # map $cookie__osm_totp_token $cookie_qos_token_set {
38 #  include /etc/nginx/conf.d/tile_qos_cookies.map;
39 # }
40
41 map $http_user_agent $approved_scraper {
42   default                   0; # Not approved
43   '~^JOSM\/'                1; # JOSM
44   '~^Mozilla\/5\.0\ QGIS\/' 1; # QGIS
45 }
46
47 map $http_user_agent $denied_scraper {
48   default                0; # Not denied
49   ''                     1; # No User-Agent Set
50   '~^Python\-urllib\/'   1; # Library Default
51   '~^python\-requests\/' 1; # Library Default
52   '~^node\-fetch\/'      1; # Library Default
53   '~^R$'                 1; # Library Default
54   '~^Java\/'             1; # Library Default
55   '~^tiles$'             1; # Library Default
56   '~^okhttp\/'           1; # Library Default
57   '~^Microsoft-ATL-Native\/' 1; #Library Default
58   '/n software IPWorks HTTP/S Component - www.nsoftware.com' 1; #Library default
59   '~^Wget\/'             1; #Library Default
60   'C# TilesDownloader'   1; # Downloader
61   'MapDownloader'        1; # Downloader
62   '~^staticmaps'         1; # Downloader
63   'Android'              1; # Default or fake
64   'kc_android'           1; # Default or fake
65   'Mozilla/4.0'          1; # Fake
66   'Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1)' 1;  # Fake
67   '~^runtastic'          1; # App
68   '~^Where\ my\ children' 1; # App
69   'nossoonibusjp.android.crosswalk' 1; # App
70   'br.com.concisoti.potybus' 1; # App
71   'com.soft373.taptaxi'  1;
72   'com.kradac.ktxcore'   1;
73   'ru.crowdsystems.topcontrol.knd' 1;
74 }
75
76 map $http_referer $denied_referer {
77   default                          0; # Not denied
78   'http://www.openstreetmap.org/'  1; # Faked
79   'http://www.openstreetmap.org'   1; # Faked
80   'https://www.openstreetmap.org'  1; # Faked
81   'http://openstreetmap.org/'      1; # Faked
82   'http://openstreetmap.org'       1; # Faked
83   'https://openstreetmap.org'      1; # Faked
84   'http://www.osm.org/'            1; # Faked
85   'http://www.osm.org'             1; # Faked
86   'http://osm.org/'                1; # Faked
87   'http://osm.org'                 1; # Faked
88   'http://google.com'              1; # Faked
89   'http://www.google.com'          1; # Faked
90   'http://google.com/'             1; # Faked
91   'http://www.google.com/'         1; # Faked
92   'https://google.com'             1; # Faked
93   'https://www.google.com'         1; # Faked
94   'https://google.com/'            1; # Faked
95   'https://www.google.com/'        1; # Faked
96   '~^https?://pmap\.kuku\.lu/'           1; # Too much traffic
97   '~^https?://[^.]*\.pmap\.kuku\.lu/'    1; # Too much traffic
98   '~^https?://fastpokemap\.com/'         1; # Too much traffic
99   '~^https?://[^.]*\.fastpokemap\.com/'  1; # Too much traffic
100   '~^https?://pkget\.com/'               1; # Too much traffic
101   '~^https?://[^.]*\.pkget\.com/'        1; # Too much traffic
102   '~^https?://twpkinfo\.com/'            1; # Too much traffic
103   '~^https?://[^.]*\.twpkinfo\.com/'     1; # Too much traffic
104   '~^https?://9db\.jp/'                  1; # Too much traffic
105   '~^https?://[^.]*\.9db\.jp/'           1; # Too much traffic
106 }
107
108 map $http_referer $osm_referer {
109   default                                 '';    # False
110   '~^https:\/\/www\.openstreetmap\.org\/' 'osm'; # True
111 }
112
113 # Limit Cache-Control header to only approved User-Agents
114 map $osm_referer$http_user_agent $limit_http_cache_control {
115   default '';                                # Unset Header
116   '~^osmMozilla\/5\.0\ QGIS\/' '';            # Unset Header
117   '~^osmMozilla\/5\.0\ ' $http_cache_control; # Pass Header
118 }
119
120 # Limit Pragma header to only approved User-Agents
121 map $osm_referer$http_user_agent $limit_http_pragma {
122   default '';                          # Unset Header
123   '~^osmMozilla\/5\.0\ QGIS\/' '';     # Unset Header
124   '~^osmMozilla\/5\.0\ ' $http_pragma; # Pass Header
125 }
126
127 server {
128     # IPv4
129     listen       80 deferred backlog=16384 reuseport fastopen=2048 default_server;
130     listen       443 ssl deferred backlog=16384 reuseport fastopen=2048 http2 default_server;
131     # IPv6
132     listen       [::]:80 deferred backlog=16384 reuseport fastopen=2048 default_server;
133     listen       [::]:443 ssl deferred backlog=16384 reuseport fastopen=2048 http2 default_server;
134     server_name  localhost;
135
136     proxy_buffers 8 64k;
137     proxy_busy_buffers_size 64k;
138
139     ssl_certificate      /etc/ssl/certs/tile.openstreetmap.org.pem;
140     ssl_certificate_key  /etc/ssl/private/tile.openstreetmap.org.key;
141
142     # Requests sent within early data are subject to replay attacks.
143     # See: http://nginx.org/en/docs/http/ngx_http_ssl_module.html#ssl_early_data
144     ssl_early_data on;
145
146     # Immediately 404 layers we do not support
147 <% for i in 20..99 do %>
148     location /<%= i %>/ {
149       set $limit_rate 512;
150       return 404;
151     }
152 <% end %>
153
154     # Immediately 404 silly tile requests
155     location = /0/0/-1.png {
156       set $limit_rate 512;
157       return 404;
158     }
159     location = /1/0/-1.png {
160       set $limit_rate 512;
161       return 404;
162     }
163     location = /1/-1/0.png {
164       set $limit_rate 512;
165       return 404;
166     }
167     location = /1/-1/1.png {
168       set $limit_rate 512;
169       return 404;
170     }
171     location = /1/-1/-1.png {
172       set $limit_rate 512;
173       return 404;
174     }
175     location = /1/-1/2.png {
176       set $limit_rate 512;
177       return 404;
178     }
179     location = /1/1/-1.png {
180       set $limit_rate 512;
181       return 404;
182     }
183     location = /1/2/-1.png {
184       set $limit_rate 512;
185       return 404;
186     }
187     location = /2/0/-1.png {
188       set $limit_rate 512;
189       return 404;
190     }
191     location = /2/-1/0.png {
192       set $limit_rate 512;
193       return 404;
194     }
195     location = /2/-1/1.png {
196       set $limit_rate 512;
197       return 404;
198     }
199     location = /2/1/-1.png {
200       set $limit_rate 512;
201       return 404;
202     }
203     location = /2/-1/2.png {
204       set $limit_rate 512;
205       return 404;
206     }
207     location = /2/-1/3.png {
208       set $limit_rate 512;
209       return 404;
210     }
211
212 <% for i in 0..16 do %>
213 <% if i == 0 -%>
214     # Default Fallback Location Handler (lowest)
215     location / {
216 <% elsif -%>
217     # Dedicated zoom handler for caching
218     location /<%= i %>/ {
219 <% end %>
220       # Only allow GET / HEAD / OPTIONS (CORS) requests
221       limit_except GET HEAD OPTIONS {
222         deny all;
223       }
224
225       proxy_pass http://tile_cache_backend;
226       proxy_set_header X-Forwarded-For $remote_addr;
227       proxy_http_version 1.1;
228       proxy_set_header Connection '';
229
230       proxy_connect_timeout 20s;
231
232       # Replace host header.
233       proxy_set_header Host 'tile.openstreetmap.org';
234       # Do not pass cookies to backends.
235       proxy_set_header Cookie '';
236       # Do not pass Accept-Encoding to backends.
237       proxy_set_header Accept-Encoding '';
238       # Do not pass Accept to backends.
239       proxy_set_header Accept '';
240       # Do not pass Accept-Language to backends as unused.
241       proxy_set_header Accept-Language '';
242       proxy_set_header Accept-Charset '';
243       # Do not send origin, we allow all.
244       proxy_set_header origin '';
245       # Do not pass invalid headers to backend.
246       proxy_set_header X-Forwarded-Host '';
247       proxy_set_header X-Host '';
248       proxy_set_header Authorization '';
249       proxy_set_header Proxy-Authorization '';
250
251       # Drop partial requests
252       proxy_set_header range '';
253
254       # Do not allow setting cookies from backends due to caching.
255       proxy_ignore_headers Set-Cookie;
256       proxy_hide_header Set-Cookie;
257
258 <% if i != 0 -%>
259       # Caching
260       proxy_cache "proxy_cache_zone";
261       proxy_cache_lock on;
262       proxy_cache_valid 200 2d;
263       proxy_cache_valid 404 15m;
264       # Serve stale cache on errors or if updating
265       proxy_cache_use_stale error timeout updating http_404 http_500 http_503 http_504;
266       # If in cache as stale, serve stale and update in background
267       proxy_cache_background_update on;
268       # Workaround nginx async bug which causes stale cache replies to wait for the async backend cache update reply (seen in v1.16.0)
269       keepalive_requests 0;
270       # Enable revalidation using If-Modified-Since and If-None-Match for stale items
271       proxy_cache_revalidate on;
272       proxy_cache_min_uses 4;
273
274       add_header x-cache-status $upstream_cache_status;
275 <% end -%>
276
277       # Set a QoS cookie if none presented (uses nginx Map)
278       # add_header Set-Cookie $cookie_qos_token_set;
279 <% if node[:ssl][:strict_transport_security] -%>
280       # Ensure Strict-Transport-Security header is removed from proxied server responses
281       proxy_hide_header Strict-Transport-Security;
282
283       # Enable HSTS
284       add_header Strict-Transport-Security "<%= node[:ssl][:strict_transport_security] %>" always;
285 <% end -%>
286
287       # QoS Traffic Rate see $limit_rate on http://nginx.org/en/docs/http/ngx_http_core_module.html
288       # set $limit_rate $limit_rate_qos;
289
290       # Allow Higher Traffic Rate from Approved User-Agents which do not support cookies (uses nginx Map)
291       # if ($approved_scraper) {
292       #   set $limit_rate 65536;
293       # }
294
295       if ($denied_scraper) {
296         set $limit_rate 512;
297         return 429;
298       }
299       if ($denied_referer) {
300         set $limit_rate 512;
301         return 418;
302       }
303
304       # Strip any ?query parameters from urls
305       set $args '';
306
307       # Allow cache purging headers only from select User-Agents (uses nginx Map)
308       proxy_set_header Cache-Control $limit_http_cache_control;
309       proxy_set_header Pragma $limit_http_pragma;
310     }
311 <% end %>
312 }