0a703017cc8452fbe28c2d46260385227e6a7e71
[chef.git] / cookbooks / tile / recipes / default.rb
1 #
2 # Cookbook Name:: tile
3 # Recipe:: default
4 #
5 # Copyright 2013, OpenStreetMap Foundation
6 #
7 # Licensed under the Apache License, Version 2.0 (the "License");
8 # you may not use this file except in compliance with the License.
9 # You may obtain a copy of the License at
10 #
11 #     http://www.apache.org/licenses/LICENSE-2.0
12 #
13 # Unless required by applicable law or agreed to in writing, software
14 # distributed under the License is distributed on an "AS IS" BASIS,
15 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
16 # See the License for the specific language governing permissions and
17 # limitations under the License.
18 #
19
20 include_recipe "apache"
21 include_recipe "git"
22 include_recipe "nodejs"
23 include_recipe "postgresql"
24 include_recipe "tools"
25
26 blocks = data_bag_item("tile", "blocks")
27
28 apache_module "alias"
29 apache_module "cgi"
30 apache_module "expires"
31 apache_module "headers"
32 apache_module "remoteip"
33 apache_module "rewrite"
34
35 apache_module "tile" do
36   conf "tile.conf.erb"
37 end
38
39 tilecaches = search(:node, "roles:tilecache").sort_by { |n| n[:hostname] }
40
41 apache_site "default" do
42   action [:disable]
43 end
44
45 apache_site "tile.openstreetmap.org" do
46   template "apache.erb"
47   variables :caches => tilecaches
48 end
49
50 template "/etc/logrotate.d/apache2" do
51   source "logrotate.apache.erb"
52   owner "root"
53   group "root"
54   mode 0o644
55 end
56
57 directory "/srv/tile.openstreetmap.org" do
58   owner "tile"
59   group "tile"
60   mode 0o755
61 end
62
63 package "renderd"
64
65 service "renderd" do
66   action [:enable, :start]
67   supports :status => false, :restart => true, :reload => false
68 end
69
70 directory "/srv/tile.openstreetmap.org/tiles" do
71   owner "tile"
72   group "tile"
73   mode 0o755
74 end
75
76 template "/etc/renderd.conf" do
77   source "renderd.conf.erb"
78   owner "root"
79   group "root"
80   mode 0o644
81   notifies :reload, "service[apache2]"
82   notifies :restart, "service[renderd]"
83 end
84
85 remote_directory "/srv/tile.openstreetmap.org/html" do
86   source "html"
87   owner "tile"
88   group "tile"
89   mode 0o755
90   files_owner "tile"
91   files_group "tile"
92   files_mode 0o644
93 end
94
95 template "/srv/tile.openstreetmap.org/html/index.html" do
96   source "index.html.erb"
97   owner "tile"
98   group "tile"
99   mode 0o644
100 end
101
102 package "python-cairo"
103 package "python-mapnik"
104
105 package "ttf-dejavu"
106 package "ttf-unifont"
107
108 if node[:lsb][:release].to_f >= 16.04
109   package "fonts-droid-fallback"
110 else
111   package "fonts-droid"
112 end
113
114 package "fonts-sipa-arundina"
115 package "fonts-sil-padauk"
116 package "fonts-khmeros"
117 package "fonts-beng-extra"
118 package "fonts-gargi"
119 package "fonts-taml-tscu"
120 package "fonts-tibetan-machine"
121
122 directory "/srv/tile.openstreetmap.org/cgi-bin" do
123   owner "tile"
124   group "tile"
125   mode 0o755
126 end
127
128 template "/srv/tile.openstreetmap.org/cgi-bin/export" do
129   source "export.erb"
130   owner "tile"
131   group "tile"
132   mode 0o755
133   variables :blocks => blocks
134 end
135
136 template "/srv/tile.openstreetmap.org/cgi-bin/debug" do
137   source "debug.erb"
138   owner "tile"
139   group "tile"
140   mode 0o755
141 end
142
143 template "/etc/cron.hourly/export" do
144   source "export.cron.erb"
145   owner "root"
146   group "root"
147   mode 0o755
148 end
149
150 directory "/srv/tile.openstreetmap.org/data" do
151   owner "tile"
152   group "tile"
153   mode 0o755
154 end
155
156 package "mapnik-utils"
157
158 node[:tile][:data].each_value do |data|
159   url = data[:url]
160   file = "/srv/tile.openstreetmap.org/data/#{File.basename(url)}"
161
162   if data[:directory]
163     directory = "/srv/tile.openstreetmap.org/data/#{data[:directory]}"
164
165     directory directory do
166       owner "tile"
167       group "tile"
168       mode 0o755
169     end
170   else
171     directory = "/srv/tile.openstreetmap.org/data"
172   end
173
174   if file =~ /\.tgz$/
175     package "tar"
176
177     execute file do
178       action :nothing
179       command "tar -zxf #{file} -C #{directory}"
180       user "tile"
181       group "tile"
182     end
183   elsif file =~ /\.tar\.bz2$/
184     package "tar"
185
186     execute file do
187       action :nothing
188       command "tar -jxf #{file} -C #{directory}"
189       user "tile"
190       group "tile"
191     end
192   elsif file =~ /\.zip$/
193     package "unzip"
194
195     execute file do
196       action :nothing
197       command "unzip -qq -o #{file} -d #{directory}"
198       user "tile"
199       group "tile"
200     end
201   end
202
203   execute "#{file}_shapeindex" do
204     action :nothing
205     command "find #{directory} -type f -iname '*.shp' -print0 | xargs -0 --no-run-if-empty shapeindex --shape_files"
206     user "tile"
207     group "tile"
208     subscribes :run, "execute[#{file}]", :immediately
209   end
210
211   remote_file file do
212     if data[:refresh]
213       action :create
214       use_conditional_get true
215       ignore_failure true
216     else
217       action :create_if_missing
218     end
219
220     source url
221     owner "tile"
222     group "tile"
223     mode 0o644
224     backup false
225     notifies :run, "execute[#{file}]", :immediately
226     notifies :restart, "service[renderd]"
227   end
228 end
229
230 nodejs_package "carto"
231 nodejs_package "millstone"
232
233 directory "/srv/tile.openstreetmap.org/styles" do
234   owner "tile"
235   group "tile"
236   mode 0o755
237 end
238
239 node[:tile][:styles].each do |name, details|
240   style_directory = "/srv/tile.openstreetmap.org/styles/#{name}"
241   tile_directory = "/srv/tile.openstreetmap.org/tiles/#{name}"
242
243   template "/usr/local/bin/update-lowzoom-#{name}" do
244     source "update-lowzoom.erb"
245     owner "root"
246     group "root"
247     mode 0o755
248     variables :style => name
249   end
250
251   template "/etc/init.d/update-lowzoom-#{name}" do
252     source "update-lowzoom.init.erb"
253     owner "root"
254     group "root"
255     mode 0o755
256     variables :style => name
257   end
258
259   service "update-lowzoom-#{name}" do
260     action :disable
261     supports :restart => true
262   end
263
264   directory tile_directory do
265     owner "tile"
266     group "tile"
267     mode 0o755
268   end
269
270   details[:tile_directories].each do |directory|
271     directory directory[:name] do
272       owner "www-data"
273       group "www-data"
274       mode 0o755
275     end
276
277     directory[:min_zoom].upto(directory[:max_zoom]) do |zoom|
278       directory "#{directory[:name]}/#{zoom}" do
279         owner "www-data"
280         group "www-data"
281         mode 0o755
282       end
283
284       link "#{tile_directory}/#{zoom}" do
285         to "#{directory[:name]}/#{zoom}"
286         owner "tile"
287         group "tile"
288       end
289     end
290   end
291
292   file "#{tile_directory}/planet-import-complete" do
293     action :create_if_missing
294     owner "tile"
295     group "tile"
296     mode 0o444
297   end
298
299   git style_directory do
300     action :sync
301     repository details[:repository]
302     revision details[:revision]
303     user "tile"
304     group "tile"
305   end
306
307   link "#{style_directory}/data" do
308     to "/srv/tile.openstreetmap.org/data"
309     owner "tile"
310     group "tile"
311   end
312
313   execute "#{style_directory}/project.mml" do
314     action :nothing
315     command "carto project.mml > project.xml"
316     cwd style_directory
317     user "tile"
318     group "tile"
319     subscribes :run, "git[#{style_directory}]"
320     notifies :restart, "service[renderd]", :immediately
321     notifies :restart, "service[update-lowzoom-#{name}]"
322   end
323 end
324
325 package "postgis"
326
327 postgresql_user "jburgess" do
328   cluster node[:tile][:database][:cluster]
329   superuser true
330 end
331
332 postgresql_user "tomh" do
333   cluster node[:tile][:database][:cluster]
334   superuser true
335 end
336
337 postgresql_user "tile" do
338   cluster node[:tile][:database][:cluster]
339 end
340
341 postgresql_user "www-data" do
342   cluster node[:tile][:database][:cluster]
343 end
344
345 postgresql_database "gis" do
346   cluster node[:tile][:database][:cluster]
347   owner "tile"
348 end
349
350 postgresql_extension "postgis" do
351   cluster node[:tile][:database][:cluster]
352   database "gis"
353 end
354
355 %w(geography_columns planet_osm_nodes planet_osm_rels planet_osm_ways raster_columns raster_overviews spatial_ref_sys).each do |table|
356   postgresql_table table do
357     cluster node[:tile][:database][:cluster]
358     database "gis"
359     owner "tile"
360     permissions "tile" => :all
361   end
362 end
363
364 %w(geometry_columns planet_osm_line planet_osm_point planet_osm_polygon planet_osm_roads).each do |table|
365   postgresql_table table do
366     cluster node[:tile][:database][:cluster]
367     database "gis"
368     owner "tile"
369     permissions "tile" => :all, "www-data" => :select
370   end
371 end
372
373 postgresql_munin "gis" do
374   cluster node[:tile][:database][:cluster]
375   database "gis"
376 end
377
378 file node[:tile][:node_file] do
379   owner "tile"
380   group "www-data"
381   mode 0o640
382 end
383
384 directory "/var/log/tile" do
385   owner "tile"
386   group "tile"
387   mode 0o755
388 end
389
390 package "osm2pgsql"
391 package "osmosis"
392
393 package "ruby"
394 package "ruby-dev"
395
396 package "libproj-dev"
397 package "libxml2-dev"
398
399 gem_package "proj4rb"
400 gem_package "libxml-ruby"
401
402 remote_directory "/usr/local/lib/site_ruby" do
403   source "ruby"
404   owner "root"
405   group "root"
406   mode 0o755
407   files_owner "root"
408   files_group "root"
409   files_mode 0o644
410 end
411
412 template "/usr/local/bin/expire-tiles" do
413   source "expire-tiles.erb"
414   owner "root"
415   group "root"
416   mode 0o755
417 end
418
419 template "/etc/sudoers.d/tile" do
420   source "sudoers.erb"
421   owner "root"
422   group "root"
423   mode 0o440
424 end
425
426 directory "/var/lib/replicate" do
427   owner "tile"
428   group "tile"
429   mode 0o755
430 end
431
432 template "/var/lib/replicate/configuration.txt" do
433   source "replicate.configuration.erb"
434   owner "tile"
435   group "tile"
436   mode 0o644
437 end
438
439 template "/usr/local/bin/replicate" do
440   source "replicate.erb"
441   owner "root"
442   group "root"
443   mode 0o755
444 end
445
446 template "/etc/init.d/replicate" do
447   source "replicate.init.erb"
448   owner "root"
449   group "root"
450   mode 0o755
451 end
452
453 service "replicate" do
454   action [:enable, :start]
455   supports :restart => true
456   subscribes :restart, "template[/usr/local/bin/replicate]"
457   subscribes :restart, "template[/etc/init.d/replicate]"
458 end
459
460 template "/etc/logrotate.d/replicate" do
461   source "replicate.logrotate.erb"
462   owner "root"
463   group "root"
464   mode 0o644
465 end
466
467 template "/usr/local/bin/render-lowzoom" do
468   source "render-lowzoom.erb"
469   owner "root"
470   group "root"
471   mode 0o755
472 end
473
474 template "/etc/cron.d/render-lowzoom" do
475   source "render-lowzoom.cron.erb"
476   owner "root"
477   group "root"
478   mode 0o644
479 end
480
481 if node[:lsb][:release].to_f >= 16.04
482   file "/etc/rsyslog.d/20-renderd.conf" do
483     action :delete
484     notifies :restart, "service[rsyslog]"
485   end
486
487   file "/etc/logrotate.d/renderd" do
488     action :delete
489   end
490 else
491   template "/etc/rsyslog.d/20-renderd.conf" do
492     source "renderd.rsyslog.erb"
493     owner "root"
494     group "root"
495     mode 0o644
496     notifies :restart, "service[rsyslog]"
497   end
498
499   template "/etc/logrotate.d/renderd" do
500     source "renderd.logrotate.erb"
501     owner "root"
502     group "root"
503     mode 0o644
504   end
505 end
506
507 package "liblockfile-simple-perl"
508 package "libfilesys-df-perl"
509
510 template "/usr/local/bin/cleanup-tiles" do
511   source "cleanup-tiles.erb"
512   owner "root"
513   group "root"
514   mode 0o755
515 end
516
517 tile_directories = node[:tile][:styles].collect do |_, style|
518   style[:tile_directories].collect { |directory| directory[:name] }
519 end.flatten.sort.uniq
520
521 template "/etc/cron.d/cleanup-tiles" do
522   source "cleanup-tiles.cron.erb"
523   owner "root"
524   group "root"
525   mode 0o644
526   variables :directories => tile_directories
527 end
528
529 munin_plugin "mod_tile_fresh"
530 munin_plugin "mod_tile_latency"
531 munin_plugin "mod_tile_response"
532 munin_plugin "mod_tile_zoom"
533
534 munin_plugin "renderd_processed"
535 munin_plugin "renderd_queue"
536 munin_plugin "renderd_queue_time"
537 munin_plugin "renderd_zoom"
538 munin_plugin "renderd_zoom_time"
539
540 munin_plugin "replication_delay" do
541   conf "munin.erb"
542 end