a7c5a9c52a0adee354b7957ff6a581cb835a8be3
[chef.git] / cookbooks / nominatim / recipes / base.rb
1 #
2 # Cookbook Name:: nominatim
3 # Recipe:: base
4 #
5 # Copyright 2015, OpenStreetMap Foundation
6 #
7 # Licensed under the Apache License, Version 2.0 (the "License");
8 # you may not use this file except in compliance with the License.
9 # You may obtain a copy of the License at
10 #
11 #     http://www.apache.org/licenses/LICENSE-2.0
12 #
13 # Unless required by applicable law or agreed to in writing, software
14 # distributed under the License is distributed on an "AS IS" BASIS,
15 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
16 # See the License for the specific language governing permissions and
17 # limitations under the License.
18 #
19
20 include_recipe "apache::ssl"
21 include_recipe "postgresql"
22
23 package "php5"
24 package "php5-cli"
25 package "php5-pgsql"
26 package "php5-fpm"
27 package "php-pear"
28 package "php-apc"
29 package "php-db"
30
31 apache_module "rewrite"
32 apache_module "proxy"
33 apache_module "proxy_fcgi"
34 apache_module "proxy_http"
35
36 home_directory = data_bag_item("accounts", "nominatim")["home"]
37 source_directory = "#{home_directory}/nominatim"
38 email_errors = data_bag_item("accounts", "lonvia")["email"]
39
40 database_cluster = node[:nominatim][:database][:cluster]
41 database_version = database_cluster.sub(%r{/.*}, "")
42 database_name = node[:nominatim][:database][:dbname]
43
44 postgis_version = node[:nominatim][:database][:postgis]
45
46 service "php5-fpm" do
47   provider Chef::Provider::Service::Upstart
48   action [:enable, :start]
49   supports :status => true, :restart => true, :reload => true
50 end
51
52 node[:nominatim][:fpm_pools].each do |name, data|
53   template "/etc/php5/fpm/pool.d/#{name}.conf" do
54     source "fpm.conf.erb"
55     owner "root"
56     group "root"
57     mode 0644
58     variables data.merge(:name => name, :port => data[:port])
59     notifies :reload, "service[php5-fpm]"
60   end
61 end
62
63 postgresql_munin "nominatim" do
64   cluster database_cluster
65   database database_name
66 end
67
68 directory "/var/log/nominatim" do
69   owner "nominatim"
70   group "nominatim"
71   mode 0755
72 end
73
74 directory "#{home_directory}/status" do
75   owner "nominatim"
76   group "postgres"
77   mode 0775
78 end
79
80 template "/etc/logrotate.d/nominatim" do
81   source "logrotate.nominatim.erb"
82   owner "root"
83   group "root"
84   mode 0644
85 end
86
87 template "/etc/logrotate.d/apache2" do
88   source "logrotate.apache.erb"
89   owner "root"
90   group "root"
91   mode 0644
92 end
93
94 package "osmosis"
95 package "gcc"
96 package "proj-bin"
97 package "libgeos-c1"
98 package "postgresql-#{database_version}-postgis-#{postgis_version}"
99 package "postgresql-server-dev-#{database_version}"
100 package "build-essential"
101 package "libxml2-dev"
102 package "libexpat-dev"
103 package "libgeos-dev"
104 package "libgeos++-dev"
105 package "libpq-dev"
106 package "libbz2-dev"
107 package "libtool"
108 package "automake"
109 package "libproj-dev"
110 package "libprotobuf-c0-dev"
111 package "protobuf-c-compiler"
112 package "python-psycopg2"
113 package "libboost-dev"
114 package "libboost-system-dev"
115 package "libboost-filesystem-dev"
116 package "libboost-thread-dev"
117
118 execute "compile_nominatim" do
119   action :nothing
120   command "cd #{source_directory} && ./autogen.sh && ./configure && make"
121   user "nominatim"
122 end
123
124 directory "#{source_directory}/log" do
125   owner "nominatim"
126   group "nominatim"
127   mode 0755
128 end
129
130 template "#{source_directory}/.git/hooks/post-merge" do
131   source "update_source.erb"
132   owner "nominatim"
133   group "nominatim"
134   mode 0755
135   variables :source_directory => source_directory
136 end
137
138 template "#{source_directory}/settings/local.php" do
139   source "nominatim.erb"
140   owner "nominatim"
141   group "nominatim"
142   mode 0664
143   variables :postgres_version => database_version
144 end
145
146 template "#{source_directory}/settings/ip_blocks.conf" do
147   action :create_if_missing
148   source "ipblocks.erb"
149   owner "nominatim"
150   group "nominatim"
151   mode 0664
152 end
153
154 file "#{source_directory}/settings/apache_blocks.conf" do
155   action :create_if_missing
156   owner "nominatim"
157   group "nominatim"
158   mode 0664
159 end
160
161 file "#{source_directory}/settings/ip_blocks.map" do
162   action :create_if_missing
163   owner "nominatim"
164   group "nominatim"
165   mode 0664
166 end
167
168 cron_action = if node[:nominatim][:enabled]
169                 :create
170               else
171                 :delete
172               end
173
174 template "/etc/cron.d/nominatim" do
175   action cron_action
176   source "cron.erb"
177   owner "root"
178   group "root"
179   mode "0644"
180   variables :bin_directory => "#{source_directory}/utils", :mailto => email_errors
181 end
182
183 template "#{source_directory}/utils/nominatim-update" do
184   source "updater.erb"
185   user "nominatim"
186   group "nominatim"
187   mode 0755
188 end
189
190 template "/etc/init.d/nominatim-update" do
191   source "updater.init.erb"
192   user "nominatim"
193   group "nominatim"
194   mode 0755
195   variables :source_directory => source_directory
196 end
197
198 munin_plugin_conf "nominatim" do
199   template "munin.erb"
200 end
201
202 munin_plugin "nominatim_importlag" do
203   target "#{source_directory}/munin/nominatim_importlag"
204 end
205
206 munin_plugin "nominatim_query_speed" do
207   target "#{source_directory}/munin/nominatim_query_speed_querylog"
208 end
209
210 munin_plugin "nominatim_requests" do
211   target "#{source_directory}/munin/nominatim_requests_querylog"
212 end
213
214 munin_plugin "nominatim_throttled_ips" do
215   target "#{source_directory}/munin/nominatim_throttled_ips"
216 end
217
218 external_data = [
219   "wikipedia_article.sql.bin",
220   "wikipedia_redirect.sql.bin",
221   "gb_postcode_data.sql.gz"
222 ]
223
224 external_data.each do |fname|
225   remote_file "#{source_directory}/data/#{fname}" do
226     action :create_if_missing
227     source "http://www.nominatim.org/data/#{fname}"
228     owner "nominatim"
229     group "nominatim"
230     mode 0644
231   end
232 end
233
234 additional_scripts = %w(backup-nominatim vacuum-db-nominatim)
235
236 additional_scripts.each do |fname|
237   template "/usr/local/bin/#{fname}" do
238     source "#{fname}.erb"
239     owner "root"
240     group "root"
241     mode 0755
242   end
243 end
244
245 directory File.dirname(node[:nominatim][:flatnode_file]) do
246   owner "nominatim"
247   group "nominatim"
248   mode 0755
249   recursive true
250 end
251
252 apache_site "nominatim.openstreetmap.org" do
253   template "apache.erb"
254   directory source_directory
255   variables :pools => node[:nominatim][:fpm_pools]
256 end
257
258 apache_site "default" do
259   action [:disable]
260 end
261
262 fail2ban_filter "nominatim" do
263   failregex '^<HOST> - - \[[^]]+\] "[^"]+" 429 '
264 end
265
266 fail2ban_jail "nominatim" do
267   filter "nominatim"
268   logpath "/var/log/apache2/nominatim.openstreetmap.org-access.log"
269   ports [80, 443]
270   maxretry 100
271 end