Drop populated_places from tile data sources
[chef.git] / cookbooks / tile / recipes / default.rb
1 #
2 # Cookbook Name:: tile
3 # Recipe:: default
4 #
5 # Copyright 2013, OpenStreetMap Foundation
6 #
7 # Licensed under the Apache License, Version 2.0 (the "License");
8 # you may not use this file except in compliance with the License.
9 # You may obtain a copy of the License at
10 #
11 #     http://www.apache.org/licenses/LICENSE-2.0
12 #
13 # Unless required by applicable law or agreed to in writing, software
14 # distributed under the License is distributed on an "AS IS" BASIS,
15 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
16 # See the License for the specific language governing permissions and
17 # limitations under the License.
18 #
19
20 include_recipe "apache"
21 include_recipe "git"
22 include_recipe "nodejs"
23 include_recipe "postgresql"
24 include_recipe "tools"
25
26 blocks = data_bag_item("tile", "blocks")
27
28 apache_module "alias"
29 apache_module "cgi"
30 apache_module "expires"
31 apache_module "headers"
32 apache_module "remoteip"
33 apache_module "rewrite"
34
35 apache_module "tile" do
36   conf "tile.conf.erb"
37 end
38
39 tilecaches = search(:node, "roles:tilecache").sort_by { |n| n[:hostname] }
40
41 apache_site "default" do
42   action [:disable]
43 end
44
45 apache_site "tile.openstreetmap.org" do
46   template "apache.erb"
47   variables :caches => tilecaches
48 end
49
50 template "/etc/logrotate.d/apache2" do
51   source "logrotate.apache.erb"
52   owner "root"
53   group "root"
54   mode 0644
55 end
56
57 directory "/srv/tile.openstreetmap.org" do
58   owner "tile"
59   group "tile"
60   mode 0755
61 end
62
63 package "renderd"
64
65 service "renderd" do
66   action [:enable, :start]
67   supports :status => false, :restart => true, :reload => false
68 end
69
70 directory "/srv/tile.openstreetmap.org/tiles" do
71   owner "tile"
72   group "tile"
73   mode 0755
74 end
75
76 template "/etc/renderd.conf" do
77   source "renderd.conf.erb"
78   owner "root"
79   group "root"
80   mode 0644
81   notifies :reload, "service[apache2]"
82   notifies :restart, "service[renderd]"
83 end
84
85 remote_directory "/srv/tile.openstreetmap.org/html" do
86   source "html"
87   owner "tile"
88   group "tile"
89   mode 0755
90   files_owner "tile"
91   files_group "tile"
92   files_mode 0644
93 end
94
95 template "/srv/tile.openstreetmap.org/html/index.html" do
96   source "index.html.erb"
97   owner "tile"
98   group "tile"
99   mode 0644
100 end
101
102 package "python-cairo"
103 package "python-mapnik"
104
105 package "ttf-dejavu"
106 package "fonts-droid"
107 package "ttf-unifont"
108 package "fonts-sipa-arundina"
109 package "fonts-sil-padauk"
110 package "fonts-khmeros"
111 package "ttf-indic-fonts-core"
112 package "ttf-tamil-fonts"
113 package "ttf-kannada-fonts"
114
115 directory "/srv/tile.openstreetmap.org/cgi-bin" do
116   owner "tile"
117   group "tile"
118   mode 0755
119 end
120
121 template "/srv/tile.openstreetmap.org/cgi-bin/export" do
122   source "export.erb"
123   owner "tile"
124   group "tile"
125   mode 0755
126   variables :blocks => blocks
127 end
128
129 template "/srv/tile.openstreetmap.org/cgi-bin/debug" do
130   source "debug.erb"
131   owner "tile"
132   group "tile"
133   mode 0755
134 end
135
136 template "/etc/cron.hourly/export" do
137   source "export.cron.erb"
138   owner "root"
139   group "root"
140   mode 0755
141 end
142
143 directory "/srv/tile.openstreetmap.org/data" do
144   owner "tile"
145   group "tile"
146   mode 0755
147 end
148
149 package "mapnik-utils"
150
151 node[:tile][:data].each_value do |data|
152   url = data[:url]
153   file = "/srv/tile.openstreetmap.org/data/#{File.basename(url)}"
154   directory = "/srv/tile.openstreetmap.org/data/#{data[:directory]}"
155
156   directory directory do
157     owner "tile"
158     group "tile"
159     mode 0755
160   end
161
162   if file =~ /\.tgz$/
163     package "tar"
164
165     execute file do
166       action :nothing
167       command "tar -zxf #{file} -C #{directory}"
168       user "tile"
169       group "tile"
170     end
171   elsif file =~ /\.tar\.bz2$/
172     package "tar"
173
174     execute file do
175       action :nothing
176       command "tar -jxf #{file} -C #{directory}"
177       user "tile"
178       group "tile"
179     end
180   elsif file =~ /\.zip$/
181     package "unzip"
182
183     execute file do
184       action :nothing
185       command "unzip -qq -o #{file} -d #{directory}"
186       user "tile"
187       group "tile"
188     end
189   end
190
191   execute "#{file}_shapeindex" do
192     action :nothing
193     command "find #{directory} -type f -iname '*.shp' -print0 | xargs -0 --no-run-if-empty shapeindex --shape_files"
194     user "tile"
195     group "tile"
196     subscribes :run, "execute[#{file}]", :immediately
197   end
198
199   remote_file file do
200     if data[:refresh]
201       action :create
202       use_conditional_get true
203       ignore_failure true
204     else
205       action :create_if_missing
206     end
207
208     source url
209     owner "tile"
210     group "tile"
211     mode 0644
212     backup false
213     notifies :run, "execute[#{file}]", :immediately
214     notifies :restart, "service[renderd]"
215   end
216 end
217
218 nodejs_package "carto"
219 nodejs_package "millstone"
220
221 directory "/srv/tile.openstreetmap.org/styles" do
222   owner "tile"
223   group "tile"
224   mode 0755
225 end
226
227 node[:tile][:styles].each do |name, details|
228   style_directory = "/srv/tile.openstreetmap.org/styles/#{name}"
229   tile_directory = "/srv/tile.openstreetmap.org/tiles/#{name}"
230
231   template "/usr/local/bin/update-lowzoom-#{name}" do
232     source "update-lowzoom.erb"
233     owner "root"
234     group "root"
235     mode 0755
236     variables :style => name
237   end
238
239   template "/etc/init.d/update-lowzoom-#{name}" do
240     source "update-lowzoom.init.erb"
241     owner "root"
242     group "root"
243     mode 0755
244     variables :style => name
245   end
246
247   service "update-lowzoom-#{name}" do
248     action :disable
249     supports :restart => true
250   end
251
252   directory tile_directory do
253     owner "tile"
254     group "tile"
255     mode 0755
256   end
257
258   details[:tile_directories].each do |directory|
259     directory directory[:name] do
260       owner "www-data"
261       group "www-data"
262       mode 0755
263     end
264
265     directory[:min_zoom].upto(directory[:max_zoom]) do |zoom|
266       directory "#{directory[:name]}/#{zoom}" do
267         owner "www-data"
268         group "www-data"
269         mode 0755
270       end
271
272       link "#{tile_directory}/#{zoom}" do
273         to "#{directory[:name]}/#{zoom}"
274         owner "tile"
275         group "tile"
276       end
277     end
278   end
279
280   file "#{tile_directory}/planet-import-complete" do
281     action :create_if_missing
282     owner "tile"
283     group "tile"
284     mode 0444
285   end
286
287   git style_directory do
288     action :sync
289     repository details[:repository]
290     revision details[:revision]
291     user "tile"
292     group "tile"
293   end
294
295   link "#{style_directory}/data" do
296     to "/srv/tile.openstreetmap.org/data"
297     owner "tile"
298     group "tile"
299   end
300
301   execute "#{style_directory}/project.mml" do
302     action :nothing
303     command "carto project.mml > project.xml"
304     cwd style_directory
305     user "tile"
306     group "tile"
307     subscribes :run, "git[#{style_directory}]"
308     notifies :restart, "service[renderd]", :immediately
309     notifies :restart, "service[update-lowzoom-#{name}]"
310   end
311 end
312
313 package "postgis"
314
315 postgresql_user "jburgess" do
316   cluster node[:tile][:database][:cluster]
317   superuser true
318 end
319
320 postgresql_user "tomh" do
321   cluster node[:tile][:database][:cluster]
322   superuser true
323 end
324
325 postgresql_user "tile" do
326   cluster node[:tile][:database][:cluster]
327 end
328
329 postgresql_user "www-data" do
330   cluster node[:tile][:database][:cluster]
331 end
332
333 postgresql_database "gis" do
334   cluster node[:tile][:database][:cluster]
335   owner "tile"
336 end
337
338 postgresql_extension "postgis" do
339   cluster node[:tile][:database][:cluster]
340   database "gis"
341 end
342
343 %w(geography_columns planet_osm_nodes planet_osm_rels planet_osm_ways raster_columns raster_overviews spatial_ref_sys).each do |table|
344   postgresql_table table do
345     cluster node[:tile][:database][:cluster]
346     database "gis"
347     owner "tile"
348     permissions "tile" => :all
349   end
350 end
351
352 %w(geometry_columns planet_osm_line planet_osm_point planet_osm_polygon planet_osm_roads).each do |table|
353   postgresql_table table do
354     cluster node[:tile][:database][:cluster]
355     database "gis"
356     owner "tile"
357     permissions "tile" => :all, "www-data" => :select
358   end
359 end
360
361 postgresql_munin "gis" do
362   cluster node[:tile][:database][:cluster]
363   database "gis"
364 end
365
366 file node[:tile][:node_file] do
367   owner "tile"
368   group "www-data"
369   mode 0640
370 end
371
372 directory "/var/log/tile" do
373   owner "tile"
374   group "tile"
375   mode 0755
376 end
377
378 package "osm2pgsql"
379 package "osmosis"
380
381 package "ruby"
382 package "ruby-dev"
383
384 if node[:lsb][:release].to_f < 14.04
385   package "rubygems"
386 end
387
388 package "libproj-dev"
389 package "libxml2-dev"
390
391 gem_package "proj4rb"
392 gem_package "libxml-ruby"
393
394 remote_directory "/usr/local/lib/site_ruby" do
395   source "ruby"
396   owner "root"
397   group "root"
398   mode 0755
399   files_owner "root"
400   files_group "root"
401   files_mode 0644
402 end
403
404 template "/usr/local/bin/expire-tiles" do
405   source "expire-tiles.erb"
406   owner "root"
407   group "root"
408   mode 0755
409 end
410
411 template "/etc/sudoers.d/tile" do
412   source "sudoers.erb"
413   owner "root"
414   group "root"
415   mode 0440
416 end
417
418 directory "/var/lib/replicate" do
419   owner "tile"
420   group "tile"
421   mode 0755
422 end
423
424 template "/var/lib/replicate/configuration.txt" do
425   source "replicate.configuration.erb"
426   owner "tile"
427   group "tile"
428   mode 0644
429 end
430
431 template "/usr/local/bin/replicate" do
432   source "replicate.erb"
433   owner "root"
434   group "root"
435   mode 0755
436 end
437
438 template "/etc/init.d/replicate" do
439   source "replicate.init.erb"
440   owner "root"
441   group "root"
442   mode 0755
443 end
444
445 service "replicate" do
446   action [:enable, :start]
447   supports :restart => true
448   subscribes :restart, "template[/usr/local/bin/replicate]"
449   subscribes :restart, "template[/etc/init.d/replicate]"
450 end
451
452 template "/etc/logrotate.d/replicate" do
453   source "replicate.logrotate.erb"
454   owner "root"
455   group "root"
456   mode 0644
457 end
458
459 template "/usr/local/bin/render-lowzoom" do
460   source "render-lowzoom.erb"
461   owner "root"
462   group "root"
463   mode 0755
464 end
465
466 template "/etc/cron.d/render-lowzoom" do
467   source "render-lowzoom.cron.erb"
468   owner "root"
469   group "root"
470   mode 0644
471 end
472
473 template "/etc/rsyslog.d/20-renderd.conf" do
474   source "renderd.rsyslog.erb"
475   owner "root"
476   group "root"
477   mode 0644
478   notifies :restart, "service[rsyslog]"
479 end
480
481 template "/etc/logrotate.d/renderd" do
482   source "renderd.logrotate.erb"
483   owner "root"
484   group "root"
485   mode 0644
486 end
487
488 package "liblockfile-simple-perl"
489 package "libfilesys-df-perl"
490
491 template "/usr/local/bin/cleanup-tiles" do
492   source "cleanup-tiles.erb"
493   owner "root"
494   group "root"
495   mode 0755
496 end
497
498 tile_directories = node[:tile][:styles].collect do |_, style|
499   style[:tile_directories].collect { |directory| directory[:name] }
500 end.flatten.sort.uniq
501
502 template "/etc/cron.d/cleanup-tiles" do
503   source "cleanup-tiles.cron.erb"
504   owner "root"
505   group "root"
506   mode 0644
507   variables :directories => tile_directories
508 end
509
510 munin_plugin "mod_tile_fresh"
511 munin_plugin "mod_tile_latency"
512 munin_plugin "mod_tile_response"
513 munin_plugin "mod_tile_zoom"
514
515 munin_plugin "renderd_processed"
516 munin_plugin "renderd_queue"
517 munin_plugin "renderd_queue_time"
518 munin_plugin "renderd_zoom"
519 munin_plugin "renderd_zoom_time"
520
521 munin_plugin "replication_delay" do
522   conf "munin.erb"
523 end