]> git.openstreetmap.org Git - chef.git/blob - cookbooks/tile/recipes/default.rb
Don't try and install rubygems for ruby 2.1
[chef.git] / cookbooks / tile / recipes / default.rb
1 #
2 # Cookbook Name:: tile
3 # Recipe:: default
4 #
5 # Copyright 2013, OpenStreetMap Foundation
6 #
7 # Licensed under the Apache License, Version 2.0 (the "License");
8 # you may not use this file except in compliance with the License.
9 # You may obtain a copy of the License at
10 #
11 #     http://www.apache.org/licenses/LICENSE-2.0
12 #
13 # Unless required by applicable law or agreed to in writing, software
14 # distributed under the License is distributed on an "AS IS" BASIS,
15 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
16 # See the License for the specific language governing permissions and
17 # limitations under the License.
18 #
19
20 include_recipe "apache"
21 include_recipe "git"
22 include_recipe "nodejs"
23 include_recipe "postgresql"
24 include_recipe "tools"
25
26 blocks = data_bag_item("tile", "blocks")
27
28 apache_module "alias"
29 apache_module "cgi"
30 apache_module "expires"
31 apache_module "headers"
32 apache_module "remoteip"
33 apache_module "rewrite"
34
35 apache_module "tile" do
36   conf "tile.conf.erb"
37 end
38
39 tilecaches = search(:node, "roles:tilecache").sort_by { |n| n[:hostname] }
40
41 apache_site "default" do
42   action [:disable]
43 end
44
45 apache_site "tile.openstreetmap.org" do
46   template "apache.erb"
47   variables :caches => tilecaches
48 end
49
50 template "/etc/logrotate.d/apache2" do
51   source "logrotate.apache.erb"
52   owner "root"
53   group "root"
54   mode 0644
55 end
56
57 directory "/srv/tile.openstreetmap.org" do
58   owner "tile"
59   group "tile"
60   mode 0755
61 end
62
63 package "renderd"
64
65 service "renderd" do
66   action [:enable, :start]
67   supports :status => false, :restart => true, :reload => false
68 end
69
70 directory "/srv/tile.openstreetmap.org/tiles" do
71   owner "tile"
72   group "tile"
73   mode 0755
74 end
75
76 template "/etc/renderd.conf" do
77   source "renderd.conf.erb"
78   owner "root"
79   group "root"
80   mode 0644
81   notifies :reload, "service[apache2]"
82   notifies :restart, "service[renderd]"
83 end
84
85 remote_directory "/srv/tile.openstreetmap.org/html" do
86   source "html"
87   owner "tile"
88   group "tile"
89   mode 0755
90   files_owner "tile"
91   files_group "tile"
92   files_mode 0644
93 end
94
95 template "/srv/tile.openstreetmap.org/html/index.html" do
96   source "index.html.erb"
97   owner "tile"
98   group "tile"
99   mode 0644
100 end
101
102 package "python-cairo"
103 package "python-mapnik"
104
105 package "ttf-dejavu"
106 package "fonts-droid"
107 package "ttf-unifont"
108 package "fonts-sipa-arundina"
109 package "fonts-sil-padauk"
110 package "fonts-khmeros"
111 package "ttf-indic-fonts-core"
112 package "ttf-tamil-fonts"
113 package "ttf-kannada-fonts"
114
115 directory "/srv/tile.openstreetmap.org/cgi-bin" do
116   owner "tile"
117   group "tile"
118   mode 0755
119 end
120
121 template "/srv/tile.openstreetmap.org/cgi-bin/export" do
122   source "export.erb"
123   owner "tile"
124   group "tile"
125   mode 0755
126   variables :blocks => blocks
127 end
128
129 template "/srv/tile.openstreetmap.org/cgi-bin/debug" do
130   source "debug.erb"
131   owner "tile"
132   group "tile"
133   mode 0755
134 end
135
136 template "/etc/cron.hourly/export" do
137   source "export.cron.erb"
138   owner "root"
139   group "root"
140   mode 0755
141 end
142
143 directory "/srv/tile.openstreetmap.org/data" do
144   owner "tile"
145   group "tile"
146   mode 0755
147 end
148
149 package "mapnik-utils"
150
151 node[:tile][:data].each_value do |data|
152   url = data[:url]
153   file = "/srv/tile.openstreetmap.org/data/#{File.basename(url)}"
154   directory = "/srv/tile.openstreetmap.org/data/#{data[:directory]}"
155
156   directory directory do
157     owner "tile"
158     group "tile"
159     mode 0755
160   end
161
162   if file =~ /\.tgz$/
163     package "tar"
164
165     execute file do
166       action :nothing
167       command "tar -zxf #{file} -C #{directory}"
168       user "tile"
169       group "tile"
170     end
171   elsif file =~ /\.tar\.bz2$/
172     package "tar"
173
174     execute file do
175       action :nothing
176       command "tar -jxf #{file} -C #{directory}"
177       user "tile"
178       group "tile"
179     end
180   elsif file =~ /\.zip$/
181     package "unzip"
182
183     execute file do
184       action :nothing
185       command "unzip -qq -o #{file} -d #{directory}"
186       user "tile"
187       group "tile"
188     end
189   end
190
191   if data[:processed]
192     original = "#{directory}/#{data[:original]}"
193     processed = "#{directory}/#{data[:processed]}"
194
195     package "gdal-bin"
196
197     execute processed do
198       action :nothing
199       command "ogr2ogr #{processed} #{original}"
200       user "tile"
201       group "tile"
202       subscribes :run, "execute[#{file}]", :immediately
203     end
204   end
205
206   execute "#{file}_shapeindex" do
207     action :nothing
208     command "find #{directory} -type f -iname '*.shp' -print0 | xargs -0 --no-run-if-empty shapeindex --shape_files"
209     user "tile"
210     group "tile"
211     subscribes :run, "execute[#{file}]", :immediately
212   end
213
214   remote_file file do
215     if data[:refresh]
216       action :create
217       use_conditional_get true
218       ignore_failure true
219     else
220       action :create_if_missing
221     end
222
223     source url
224     owner "tile"
225     group "tile"
226     mode 0644
227     backup false
228     notifies :run, "execute[#{file}]", :immediately
229     notifies :restart, "service[renderd]"
230   end
231 end
232
233 nodejs_package "carto"
234 nodejs_package "millstone"
235
236 directory "/srv/tile.openstreetmap.org/styles" do
237   owner "tile"
238   group "tile"
239   mode 0755
240 end
241
242 node[:tile][:styles].each do |name, details|
243   style_directory = "/srv/tile.openstreetmap.org/styles/#{name}"
244   tile_directory = "/srv/tile.openstreetmap.org/tiles/#{name}"
245
246   template "/usr/local/bin/update-lowzoom-#{name}" do
247     source "update-lowzoom.erb"
248     owner "root"
249     group "root"
250     mode 0755
251     variables :style => name
252   end
253
254   template "/etc/init.d/update-lowzoom-#{name}" do
255     source "update-lowzoom.init.erb"
256     owner "root"
257     group "root"
258     mode 0755
259     variables :style => name
260   end
261
262   service "update-lowzoom-#{name}" do
263     action :disable
264     supports :restart => true
265   end
266
267   directory tile_directory do
268     owner "tile"
269     group "tile"
270     mode 0755
271   end
272
273   details[:tile_directories].each do |directory|
274     directory directory[:name] do
275       owner "www-data"
276       group "www-data"
277       mode 0755
278     end
279
280     directory[:min_zoom].upto(directory[:max_zoom]) do |zoom|
281       directory "#{directory[:name]}/#{zoom}" do
282         owner "www-data"
283         group "www-data"
284         mode 0755
285       end
286
287       link "#{tile_directory}/#{zoom}" do
288         to "#{directory[:name]}/#{zoom}"
289         owner "tile"
290         group "tile"
291       end
292     end
293   end
294
295   file "#{tile_directory}/planet-import-complete" do
296     action :create_if_missing
297     owner "tile"
298     group "tile"
299     mode 0444
300   end
301
302   git style_directory do
303     action :sync
304     repository details[:repository]
305     revision details[:revision]
306     user "tile"
307     group "tile"
308   end
309
310   link "#{style_directory}/data" do
311     to "/srv/tile.openstreetmap.org/data"
312     owner "tile"
313     group "tile"
314   end
315
316   execute "#{style_directory}/project.mml" do
317     action :nothing
318     command "carto project.mml > project.xml"
319     cwd style_directory
320     user "tile"
321     group "tile"
322     subscribes :run, "git[#{style_directory}]"
323     notifies :restart, "service[renderd]", :immediately
324     notifies :restart, "service[update-lowzoom-#{name}]"
325   end
326 end
327
328 package "postgis"
329
330 postgresql_user "jburgess" do
331   cluster node[:tile][:database][:cluster]
332   superuser true
333 end
334
335 postgresql_user "tomh" do
336   cluster node[:tile][:database][:cluster]
337   superuser true
338 end
339
340 postgresql_user "tile" do
341   cluster node[:tile][:database][:cluster]
342 end
343
344 postgresql_user "www-data" do
345   cluster node[:tile][:database][:cluster]
346 end
347
348 postgresql_database "gis" do
349   cluster node[:tile][:database][:cluster]
350   owner "tile"
351 end
352
353 postgresql_extension "postgis" do
354   cluster node[:tile][:database][:cluster]
355   database "gis"
356 end
357
358 %w(geography_columns planet_osm_nodes planet_osm_rels planet_osm_ways raster_columns raster_overviews spatial_ref_sys).each do |table|
359   postgresql_table table do
360     cluster node[:tile][:database][:cluster]
361     database "gis"
362     owner "tile"
363     permissions "tile" => :all
364   end
365 end
366
367 %w(geometry_columns planet_osm_line planet_osm_point planet_osm_polygon planet_osm_roads).each do |table|
368   postgresql_table table do
369     cluster node[:tile][:database][:cluster]
370     database "gis"
371     owner "tile"
372     permissions "tile" => :all, "www-data" => :select
373   end
374 end
375
376 postgresql_munin "gis" do
377   cluster node[:tile][:database][:cluster]
378   database "gis"
379 end
380
381 file node[:tile][:node_file] do
382   owner "tile"
383   group "www-data"
384   mode 0640
385 end
386
387 directory "/var/log/tile" do
388   owner "tile"
389   group "tile"
390   mode 0755
391 end
392
393 package "osm2pgsql"
394 package "osmosis"
395
396 package "ruby"
397 package "ruby-dev"
398
399 if node[:lsb][:release].to_f < 14.04
400   package "rubygems"
401 end
402
403 package "libproj-dev"
404 package "libxml2-dev"
405
406 gem_package "proj4rb"
407 gem_package "libxml-ruby"
408
409 remote_directory "/usr/local/lib/site_ruby" do
410   source "ruby"
411   owner "root"
412   group "root"
413   mode 0755
414   files_owner "root"
415   files_group "root"
416   files_mode 0644
417 end
418
419 template "/usr/local/bin/expire-tiles" do
420   source "expire-tiles.erb"
421   owner "root"
422   group "root"
423   mode 0755
424 end
425
426 template "/etc/sudoers.d/tile" do
427   source "sudoers.erb"
428   owner "root"
429   group "root"
430   mode 0440
431 end
432
433 directory "/var/lib/replicate" do
434   owner "tile"
435   group "tile"
436   mode 0755
437 end
438
439 template "/var/lib/replicate/configuration.txt" do
440   source "replicate.configuration.erb"
441   owner "tile"
442   group "tile"
443   mode 0644
444 end
445
446 template "/usr/local/bin/replicate" do
447   source "replicate.erb"
448   owner "root"
449   group "root"
450   mode 0755
451 end
452
453 template "/etc/init.d/replicate" do
454   source "replicate.init.erb"
455   owner "root"
456   group "root"
457   mode 0755
458 end
459
460 service "replicate" do
461   action [:enable, :start]
462   supports :restart => true
463   subscribes :restart, "template[/usr/local/bin/replicate]"
464   subscribes :restart, "template[/etc/init.d/replicate]"
465 end
466
467 template "/etc/logrotate.d/replicate" do
468   source "replicate.logrotate.erb"
469   owner "root"
470   group "root"
471   mode 0644
472 end
473
474 template "/usr/local/bin/render-lowzoom" do
475   source "render-lowzoom.erb"
476   owner "root"
477   group "root"
478   mode 0755
479 end
480
481 template "/etc/cron.d/render-lowzoom" do
482   source "render-lowzoom.cron.erb"
483   owner "root"
484   group "root"
485   mode 0644
486 end
487
488 template "/etc/rsyslog.d/20-renderd.conf" do
489   source "renderd.rsyslog.erb"
490   owner "root"
491   group "root"
492   mode 0644
493   notifies :restart, "service[rsyslog]"
494 end
495
496 template "/etc/logrotate.d/renderd" do
497   source "renderd.logrotate.erb"
498   owner "root"
499   group "root"
500   mode 0644
501 end
502
503 package "liblockfile-simple-perl"
504 package "libfilesys-df-perl"
505
506 template "/usr/local/bin/cleanup-tiles" do
507   source "cleanup-tiles.erb"
508   owner "root"
509   group "root"
510   mode 0755
511 end
512
513 tile_directories = node[:tile][:styles].collect do |_, style|
514   style[:tile_directories].collect { |directory| directory[:name] }
515 end.flatten.sort.uniq
516
517 template "/etc/cron.d/cleanup-tiles" do
518   source "cleanup-tiles.cron.erb"
519   owner "root"
520   group "root"
521   mode 0644
522   variables :directories => tile_directories
523 end
524
525 munin_plugin "mod_tile_fresh"
526 munin_plugin "mod_tile_latency"
527 munin_plugin "mod_tile_response"
528 munin_plugin "mod_tile_zoom"
529
530 munin_plugin "renderd_processed"
531 munin_plugin "renderd_queue"
532 munin_plugin "renderd_queue_time"
533 munin_plugin "renderd_zoom"
534 munin_plugin "renderd_zoom_time"
535
536 munin_plugin "replication_delay" do
537   conf "munin.erb"
538 end