]> git.openstreetmap.org Git - chef.git/blob - cookbooks/tile/recipes/default.rb
76a4f9b58c209d0d9ec53516ed9baff954678872
[chef.git] / cookbooks / tile / recipes / default.rb
1 #
2 # Cookbook Name:: tile
3 # Recipe:: default
4 #
5 # Copyright 2013, OpenStreetMap Foundation
6 #
7 # Licensed under the Apache License, Version 2.0 (the "License");
8 # you may not use this file except in compliance with the License.
9 # You may obtain a copy of the License at
10 #
11 #     http://www.apache.org/licenses/LICENSE-2.0
12 #
13 # Unless required by applicable law or agreed to in writing, software
14 # distributed under the License is distributed on an "AS IS" BASIS,
15 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
16 # See the License for the specific language governing permissions and
17 # limitations under the License.
18 #
19
20 include_recipe "apache"
21 include_recipe "git"
22 include_recipe "nodejs"
23 include_recipe "postgresql"
24 include_recipe "tools"
25
26 blocks = data_bag_item("tile", "blocks")
27
28 apache_module "alias"
29 apache_module "cgi"
30 apache_module "expires"
31 apache_module "headers"
32 apache_module "remoteip"
33 apache_module "rewrite"
34
35 apache_module "tile" do
36   conf "tile.conf.erb"
37 end
38
39 tilecaches = search(:node, "roles:tilecache").sort_by { |n| n[:hostname] }
40
41 apache_site "default" do
42   action [:disable]
43 end
44
45 apache_site "tile.openstreetmap.org" do
46   template "apache.erb"
47   variables :caches => tilecaches
48 end
49
50 template "/etc/logrotate.d/apache2" do
51   source "logrotate.apache.erb"
52   owner "root"
53   group "root"
54   mode 0644
55 end
56
57 directory "/srv/tile.openstreetmap.org" do
58   owner "tile"
59   group "tile"
60   mode 0755
61 end
62
63 package "renderd"
64
65 service "renderd" do
66   action [:enable, :start]
67   supports :status => false, :restart => true, :reload => false
68 end
69
70 directory "/srv/tile.openstreetmap.org/tiles" do
71   owner "tile"
72   group "tile"
73   mode 0755
74 end
75
76 template "/etc/renderd.conf" do
77   source "renderd.conf.erb"
78   owner "root"
79   group "root"
80   mode 0644
81   notifies :reload, "service[apache2]"
82   notifies :restart, "service[renderd]"
83 end
84
85 remote_directory "/srv/tile.openstreetmap.org/html" do
86   source "html"
87   owner "tile"
88   group "tile"
89   mode 0755
90   files_owner "tile"
91   files_group "tile"
92   files_mode 0644
93 end
94
95 template "/srv/tile.openstreetmap.org/html/index.html" do
96   source "index.html.erb"
97   owner "tile"
98   group "tile"
99   mode 0644
100 end
101
102 package "python-cairo"
103 package "python-mapnik"
104
105 package "ttf-dejavu"
106 package "fonts-droid"
107 package "ttf-unifont"
108 package "fonts-sipa-arundina"
109 package "fonts-sil-padauk"
110 package "fonts-khmeros"
111 package "ttf-indic-fonts-core"
112 package "ttf-tamil-fonts"
113 package "ttf-kannada-fonts"
114
115 directory "/srv/tile.openstreetmap.org/cgi-bin" do
116   owner "tile"
117   group "tile"
118   mode 0755
119 end
120
121 template "/srv/tile.openstreetmap.org/cgi-bin/export" do
122   source "export.erb"
123   owner "tile"
124   group "tile"
125   mode 0755
126   variables :blocks => blocks
127 end
128
129 template "/srv/tile.openstreetmap.org/cgi-bin/debug" do
130   source "debug.erb"
131   owner "tile"
132   group "tile"
133   mode 0755
134 end
135
136 template "/etc/cron.hourly/export" do
137   source "export.cron.erb"
138   owner "root"
139   group "root"
140   mode 0755
141 end
142
143 directory "/srv/tile.openstreetmap.org/data" do
144   owner "tile"
145   group "tile"
146   mode 0755
147 end
148
149 package "mapnik-utils"
150
151 node[:tile][:data].each_value do |data|
152   url = data[:url]
153   file = "/srv/tile.openstreetmap.org/data/#{File.basename(url)}"
154   directory = "/srv/tile.openstreetmap.org/data/#{data[:directory]}"
155
156   directory directory do
157     owner "tile"
158     group "tile"
159     mode 0755
160   end
161
162   if file =~ /\.tgz$/
163     package "tar"
164
165     execute file do
166       action :nothing
167       command "tar -zxf #{file} -C #{directory}"
168       user "tile"
169       group "tile"
170     end
171   elsif file =~ /\.tar\.bz2$/
172     package "tar"
173
174     execute file do
175       action :nothing
176       command "tar -jxf #{file} -C #{directory}"
177       user "tile"
178       group "tile"
179     end
180   elsif file =~ /\.zip$/
181     package "unzip"
182
183     execute file do
184       action :nothing
185       command "unzip -qq -o #{file} -d #{directory}"
186       user "tile"
187       group "tile"
188     end
189   end
190
191   if data[:processed]
192     original = "#{directory}/#{data[:original]}"
193     processed = "#{directory}/#{data[:processed]}"
194
195     package "gdal-bin"
196
197     execute processed do
198       action :nothing
199       command "ogr2ogr #{processed} #{original}"
200       user "tile"
201       group "tile"
202       subscribes :run, "execute[#{file}]", :immediately
203     end
204   end
205
206   execute "#{file}_shapeindex" do
207     action :nothing
208     command "find #{directory} -type f -iname '*.shp' -print0 | xargs -0 --no-run-if-empty shapeindex --shape_files"
209     user "tile"
210     group "tile"
211     subscribes :run, "execute[#{file}]", :immediately
212   end
213
214   remote_file file do
215     if data[:refresh]
216       action :create
217       use_conditional_get true
218     else
219       action :create_if_missing
220     end
221
222     source url
223     owner "tile"
224     group "tile"
225     mode 0644
226     backup false
227     notifies :run, "execute[#{file}]", :immediately
228     notifies :restart, "service[renderd]"
229   end
230 end
231
232 nodejs_package "carto"
233 nodejs_package "millstone"
234
235 directory "/srv/tile.openstreetmap.org/styles" do
236   owner "tile"
237   group "tile"
238   mode 0755
239 end
240
241 node[:tile][:styles].each do |name, details|
242   style_directory = "/srv/tile.openstreetmap.org/styles/#{name}"
243   tile_directory = "/srv/tile.openstreetmap.org/tiles/#{name}"
244
245   template "/usr/local/bin/update-lowzoom-#{name}" do
246     source "update-lowzoom.erb"
247     owner "root"
248     group "root"
249     mode 0755
250     variables :style => name
251   end
252
253   template "/etc/init.d/update-lowzoom-#{name}" do
254     source "update-lowzoom.init.erb"
255     owner "root"
256     group "root"
257     mode 0755
258     variables :style => name
259   end
260
261   service "update-lowzoom-#{name}" do
262     action :disable
263     supports :restart => true
264   end
265
266   directory tile_directory do
267     owner "tile"
268     group "tile"
269     mode 0755
270   end
271
272   details[:tile_directories].each do |directory|
273     directory directory[:name] do
274       owner "www-data"
275       group "www-data"
276       mode 0755
277     end
278
279     directory[:min_zoom].upto(directory[:max_zoom]) do |zoom|
280       directory "#{directory[:name]}/#{zoom}" do
281         owner "www-data"
282         group "www-data"
283         mode 0755
284       end
285
286       link "#{tile_directory}/#{zoom}" do
287         to "#{directory[:name]}/#{zoom}"
288         owner "tile"
289         group "tile"
290       end
291     end
292   end
293
294   file "#{tile_directory}/planet-import-complete" do
295     action :create_if_missing
296     owner "tile"
297     group "tile"
298     mode 0444
299   end
300
301   git style_directory do
302     action :sync
303     repository details[:repository]
304     revision details[:revision]
305     user "tile"
306     group "tile"
307   end
308
309   link "#{style_directory}/data" do
310     to "/srv/tile.openstreetmap.org/data"
311     owner "tile"
312     group "tile"
313   end
314
315   execute "#{style_directory}/project.mml" do
316     action :nothing
317     command "carto project.mml > project.xml"
318     cwd style_directory
319     user "tile"
320     group "tile"
321     subscribes :run, "git[#{style_directory}]"
322     notifies :restart, "service[renderd]", :immediately
323     notifies :restart, "service[update-lowzoom-#{name}]"
324   end
325 end
326
327 package "postgis"
328
329 postgresql_user "jburgess" do
330   cluster node[:tile][:database][:cluster]
331   superuser true
332 end
333
334 postgresql_user "tomh" do
335   cluster node[:tile][:database][:cluster]
336   superuser true
337 end
338
339 postgresql_user "tile" do
340   cluster node[:tile][:database][:cluster]
341 end
342
343 postgresql_user "www-data" do
344   cluster node[:tile][:database][:cluster]
345 end
346
347 postgresql_database "gis" do
348   cluster node[:tile][:database][:cluster]
349   owner "tile"
350 end
351
352 postgresql_extension "postgis" do
353   cluster node[:tile][:database][:cluster]
354   database "gis"
355 end
356
357 %w(geography_columns planet_osm_nodes planet_osm_rels planet_osm_ways raster_columns raster_overviews spatial_ref_sys).each do |table|
358   postgresql_table table do
359     cluster node[:tile][:database][:cluster]
360     database "gis"
361     owner "tile"
362     permissions "tile" => :all
363   end
364 end
365
366 %w(geometry_columns planet_osm_line planet_osm_point planet_osm_polygon planet_osm_roads).each do |table|
367   postgresql_table table do
368     cluster node[:tile][:database][:cluster]
369     database "gis"
370     owner "tile"
371     permissions "tile" => :all, "www-data" => :select
372   end
373 end
374
375 postgresql_munin "gis" do
376   cluster node[:tile][:database][:cluster]
377   database "gis"
378 end
379
380 file node[:tile][:node_file] do
381   owner "tile"
382   group "www-data"
383   mode 0640
384 end
385
386 directory "/var/log/tile" do
387   owner "tile"
388   group "tile"
389   mode 0755
390 end
391
392 package "osm2pgsql"
393 package "osmosis"
394
395 package "ruby"
396 package "ruby-dev"
397
398 if node[:lsb][:release].to_f < 14.04
399   package "rubygems"
400 end
401
402 package "libproj-dev"
403 package "libxml2-dev"
404
405 gem_package "proj4rb"
406 gem_package "libxml-ruby"
407
408 remote_directory "/usr/local/lib/site_ruby" do
409   source "ruby"
410   owner "root"
411   group "root"
412   mode 0755
413   files_owner "root"
414   files_group "root"
415   files_mode 0644
416 end
417
418 template "/usr/local/bin/expire-tiles" do
419   source "expire-tiles.erb"
420   owner "root"
421   group "root"
422   mode 0755
423 end
424
425 template "/etc/sudoers.d/tile" do
426   source "sudoers.erb"
427   owner "root"
428   group "root"
429   mode 0440
430 end
431
432 directory "/var/lib/replicate" do
433   owner "tile"
434   group "tile"
435   mode 0755
436 end
437
438 template "/var/lib/replicate/configuration.txt" do
439   source "replicate.configuration.erb"
440   owner "tile"
441   group "tile"
442   mode 0644
443 end
444
445 template "/usr/local/bin/replicate" do
446   source "replicate.erb"
447   owner "root"
448   group "root"
449   mode 0755
450 end
451
452 template "/etc/init.d/replicate" do
453   source "replicate.init.erb"
454   owner "root"
455   group "root"
456   mode 0755
457 end
458
459 service "replicate" do
460   action [:enable, :start]
461   supports :restart => true
462   subscribes :restart, "template[/usr/local/bin/replicate]"
463   subscribes :restart, "template[/etc/init.d/replicate]"
464 end
465
466 template "/etc/logrotate.d/replicate" do
467   source "replicate.logrotate.erb"
468   owner "root"
469   group "root"
470   mode 0644
471 end
472
473 template "/usr/local/bin/render-lowzoom" do
474   source "render-lowzoom.erb"
475   owner "root"
476   group "root"
477   mode 0755
478 end
479
480 template "/etc/cron.d/render-lowzoom" do
481   source "render-lowzoom.cron.erb"
482   owner "root"
483   group "root"
484   mode 0644
485 end
486
487 template "/etc/rsyslog.d/20-renderd.conf" do
488   source "renderd.rsyslog.erb"
489   owner "root"
490   group "root"
491   mode 0644
492   notifies :restart, "service[rsyslog]"
493 end
494
495 template "/etc/logrotate.d/renderd" do
496   source "renderd.logrotate.erb"
497   owner "root"
498   group "root"
499   mode 0644
500 end
501
502 package "liblockfile-simple-perl"
503 package "libfilesys-df-perl"
504
505 template "/usr/local/bin/cleanup-tiles" do
506   source "cleanup-tiles.erb"
507   owner "root"
508   group "root"
509   mode 0755
510 end
511
512 tile_directories = node[:tile][:styles].collect do |_, style|
513   style[:tile_directories].collect { |directory| directory[:name] }
514 end.flatten.sort.uniq
515
516 template "/etc/cron.d/cleanup-tiles" do
517   source "cleanup-tiles.cron.erb"
518   owner "root"
519   group "root"
520   mode 0644
521   variables :directories => tile_directories
522 end
523
524 munin_plugin "mod_tile_fresh"
525 munin_plugin "mod_tile_latency"
526 munin_plugin "mod_tile_response"
527 munin_plugin "mod_tile_zoom"
528
529 munin_plugin "renderd_processed"
530 munin_plugin "renderd_queue"
531 munin_plugin "renderd_queue_time"
532 munin_plugin "renderd_zoom"
533 munin_plugin "renderd_zoom_time"
534
535 munin_plugin "replication_delay" do
536   conf "munin.erb"
537 end