add new libexpat requirement for nominatim
[chef.git] / cookbooks / nominatim / recipes / base.rb
1 #
2 # Cookbook Name:: nominatim
3 # Recipe:: base
4 #
5 # Copyright 2015, OpenStreetMap Foundation
6 #
7 # Licensed under the Apache License, Version 2.0 (the "License");
8 # you may not use this file except in compliance with the License.
9 # You may obtain a copy of the License at
10 #
11 #     http://www.apache.org/licenses/LICENSE-2.0
12 #
13 # Unless required by applicable law or agreed to in writing, software
14 # distributed under the License is distributed on an "AS IS" BASIS,
15 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
16 # See the License for the specific language governing permissions and
17 # limitations under the License.
18 #
19
20 include_recipe "apache::ssl"
21 include_recipe "postgresql"
22
23 package "php5"
24 package "php5-cli"
25 package "php5-pgsql"
26 package "php5-fpm"
27 package "php-pear"
28 package "php-apc"
29 package "php-db"
30
31 apache_module "rewrite"
32 apache_module "proxy"
33 apache_module "proxy_fcgi"
34 apache_module "proxy_http"
35
36 home_directory = data_bag_item("accounts", "nominatim")["home"]
37 source_directory = "#{home_directory}/nominatim"
38 email_errors = data_bag_item("accounts", "lonvia")["email"]
39
40 database_cluster = node[:nominatim][:database][:cluster]
41 database_version = database_cluster.sub(%r{/.*}, "")
42 database_name = node[:nominatim][:database][:dbname]
43
44 postgis_version = node[:nominatim][:database][:postgis]
45
46 service "php5-fpm" do
47   provider Chef::Provider::Service::Upstart
48   action [:enable, :start]
49   supports :status => true, :restart => true, :reload => true
50 end
51
52 node[:nominatim][:fpm_pools].each do |name, data|
53   template "/etc/php5/fpm/pool.d/#{name}.conf" do
54     source "fpm.conf.erb"
55     owner "root"
56     group "root"
57     mode 0644
58     variables data.merge(:name => name, :port => data[:port])
59     notifies :reload, "service[php5-fpm]"
60   end
61 end
62
63 postgresql_munin "nominatim" do
64   cluster database_cluster
65   database database_name
66 end
67
68 directory "/var/log/nominatim" do
69   owner "nominatim"
70   group "nominatim"
71   mode 0755
72 end
73
74 directory "#{home_directory}/status" do
75   owner "nominatim"
76   group "postgres"
77   mode 0775
78 end
79
80 template "/etc/logrotate.d/nominatim" do
81   source "logrotate.nominatim.erb"
82   owner "root"
83   group "root"
84   mode 0644
85 end
86
87 package "osmosis"
88 package "gcc"
89 package "proj-bin"
90 package "libgeos-c1"
91 package "postgresql-#{database_version}-postgis-#{postgis_version}"
92 package "postgresql-server-dev-#{database_version}"
93 package "build-essential"
94 package "libxml2-dev"
95 package "libexpat-dev"
96 package "libgeos-dev"
97 package "libgeos++-dev"
98 package "libpq-dev"
99 package "libbz2-dev"
100 package "libtool"
101 package "automake"
102 package "libproj-dev"
103 package "libprotobuf-c0-dev"
104 package "protobuf-c-compiler"
105 package "python-psycopg2"
106 package "libboost-dev"
107 package "libboost-system-dev"
108 package "libboost-filesystem-dev"
109 package "libboost-thread-dev"
110
111 execute "compile_nominatim" do
112   action :nothing
113   command "cd #{source_directory} && ./autogen.sh && ./configure && make"
114   user "nominatim"
115 end
116
117 directory "#{source_directory}/log" do
118   owner "nominatim"
119   group "nominatim"
120   mode 0755
121 end
122
123 template "#{source_directory}/.git/hooks/post-merge" do
124   source "update_source.erb"
125   owner "nominatim"
126   group "nominatim"
127   mode 0755
128   variables :source_directory => source_directory
129 end
130
131 template "#{source_directory}/settings/local.php" do
132   source "nominatim.erb"
133   owner "nominatim"
134   group "nominatim"
135   mode 0664
136   variables :postgres_version => database_version
137 end
138
139 template "#{source_directory}/settings/ip_blocks.conf" do
140   action :create_if_missing
141   source "ipblocks.erb"
142   owner "nominatim"
143   group "nominatim"
144   mode 0664
145 end
146
147 file "#{source_directory}/settings/apache_blocks.conf" do
148   action :create_if_missing
149   owner "nominatim"
150   group "nominatim"
151   mode 0664
152 end
153
154 file "#{source_directory}/settings/ip_blocks.map" do
155   action :create_if_missing
156   owner "nominatim"
157   group "nominatim"
158   mode 0664
159 end
160
161 if node[:nominatim][:enabled]
162   cron_action = :create
163 else
164   cron_action = :delete
165 end
166
167 template "/etc/cron.d/nominatim" do
168   action cron_action
169   source "cron.erb"
170   owner "root"
171   group "root"
172   mode "0644"
173   variables :bin_directory => "#{source_directory}/utils", :mailto => email_errors
174 end
175
176 template "#{source_directory}/utils/nominatim-update" do
177   source "updater.erb"
178   user "nominatim"
179   group "nominatim"
180   mode 0755
181 end
182
183 template "/etc/init.d/nominatim-update" do
184   source "updater.init.erb"
185   user "nominatim"
186   group "nominatim"
187   mode 0755
188   variables :source_directory => source_directory
189 end
190
191 munin_plugin_conf "nominatim" do
192   template "munin.erb"
193 end
194
195 munin_plugin "nominatim_importlag" do
196   target "#{source_directory}/munin/nominatim_importlag"
197 end
198
199 munin_plugin "nominatim_query_speed" do
200   target "#{source_directory}/munin/nominatim_query_speed_querylog"
201 end
202
203 munin_plugin "nominatim_requests" do
204   target "#{source_directory}/munin/nominatim_requests_querylog"
205 end
206
207 munin_plugin "nominatim_throttled_ips" do
208   target "#{source_directory}/munin/nominatim_throttled_ips"
209 end
210
211 external_data = [
212   "wikipedia_article.sql.bin",
213   "wikipedia_redirect.sql.bin",
214   "gb_postcode_data.sql.gz"
215 ]
216
217 external_data.each do |fname|
218   remote_file "#{source_directory}/data/#{fname}" do
219     action :create_if_missing
220     source "http://www.nominatim.org/data/#{fname}"
221     owner "nominatim"
222     group "nominatim"
223     mode 0644
224   end
225 end
226
227 additional_scripts = %w(backup-nominatim vacuum-db-nominatim)
228
229 additional_scripts.each do |fname|
230   template "/usr/local/bin/#{fname}" do
231     source "#{fname}.erb"
232     owner "root"
233     group "root"
234     mode 0755
235   end
236 end
237
238 directory File.dirname(node[:nominatim][:flatnode_file]) do
239   owner "nominatim"
240   group "nominatim"
241   mode 0755
242   recursive true
243 end
244
245 apache_site "nominatim.openstreetmap.org" do
246   template "apache.erb"
247   directory source_directory
248   variables :pools => node[:nominatim][:fpm_pools]
249 end
250
251 apache_site "default" do
252   action [:disable]
253 end
254
255 fail2ban_filter "nominatim" do
256   failregex '^<HOST> - - \[[^]]+\] "[^"]+" 429 '
257 end
258
259 fail2ban_jail "nominatim" do
260   filter "nominatim"
261   logpath "/var/log/apache2/nominatim.openstreetmap.org-access.log"
262   ports [80, 443]
263   maxretry 100
264 end