]> git.openstreetmap.org Git - chef.git/blob - cookbooks/hardware/recipes/default.rb
Gather information on NVME disks
[chef.git] / cookbooks / hardware / recipes / default.rb
1 #
2 # Cookbook Name:: hardware
3 # Recipe:: default
4 #
5 # Copyright 2012, OpenStreetMap Foundation
6 #
7 # Licensed under the Apache License, Version 2.0 (the "License");
8 # you may not use this file except in compliance with the License.
9 # You may obtain a copy of the License at
10 #
11 #     http://www.apache.org/licenses/LICENSE-2.0
12 #
13 # Unless required by applicable law or agreed to in writing, software
14 # distributed under the License is distributed on an "AS IS" BASIS,
15 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
16 # See the License for the specific language governing permissions and
17 # limitations under the License.
18 #
19
20 include_recipe "tools"
21 include_recipe "munin"
22
23 ohai_plugin "hardware" do
24   template "ohai.rb.erb"
25 end
26
27 case node[:cpu][:"0"][:vendor_id]
28 when "GenuineIntel"
29   package "intel-microcode"
30 end
31
32 case node[:cpu][:"0"][:vendor_id]
33 when "AuthenticAMD"
34   if node[:lsb][:release].to_f >= 14.04
35     package "amd64-microcode"
36   end
37 end
38
39 if node[:dmi] && node[:dmi][:system]
40   case node[:dmi][:system][:manufacturer]
41   when "empty"
42     manufacturer = node[:dmi][:base_board][:manufacturer]
43     product = node[:dmi][:base_board][:product_name]
44   else
45     manufacturer = node[:dmi][:system][:manufacturer]
46     product = node[:dmi][:system][:product_name]
47   end
48 else
49   manufacturer = "Unknown"
50   product = "Unknown"
51 end
52
53 case manufacturer
54 when "HP"
55   package "hponcfg"
56   package "hp-health"
57   unit = "1"
58   speed = "115200"
59 when "TYAN"
60   unit = "0"
61   speed = "115200"
62 when "TYAN Computer Corporation"
63   unit = "0"
64   speed = "115200"
65 when "Supermicro"
66   case product
67   when "H8DGU", "X9SCD", "X7DBU", "X7DW3", "X9DR7/E-(J)LN4F", "X9DR3-F", "X9DRW"
68     unit = "1"
69     speed = "115200"
70   else
71     unit = "0"
72     speed = "115200"
73   end
74 when "IBM"
75   unit = "0"
76   speed = "115200"
77 end
78
79 if manufacturer == "HP" && node[:lsb][:release].to_f > 11.10
80   include_recipe "git"
81
82   git "/opt/hp/hp-legacy" do
83     action :sync
84     repository "git://chef.openstreetmap.org/hp-legacy.git"
85     user "root"
86     group "root"
87     ignore_failure true
88   end
89
90   link "/opt/hp/hp-health/bin/hpasmd" do
91     to "/opt/hp/hp-legacy/hpasmd"
92   end
93
94   link "/usr/lib/libhpasmintrfc.so.3.0" do
95     to "/opt/hp/hp-legacy/libhpasmintrfc.so.3.0"
96   end
97
98   link "/usr/lib/libhpasmintrfc.so.3" do
99     to "libhpasmintrfc.so.3.0"
100   end
101
102   link "/usr/lib/libhpasmintrfc.so" do
103     to "libhpasmintrfc.so.3.0"
104   end
105 end
106
107 unless unit.nil?
108   file "/etc/init/ttySttyS#{unit}.conf" do
109     action :delete
110   end
111
112   template "/etc/init/ttyS#{unit}.conf" do
113     source "tty.conf.erb"
114     owner "root"
115     group "root"
116     mode 0644
117     variables :unit => unit, :speed => speed
118   end
119
120   service "ttyS#{unit}" do
121     provider Chef::Provider::Service::Upstart
122     action [:enable, :start]
123     supports :status => true, :restart => true, :reload => false
124     subscribes :restart, "template[/etc/init/ttyS#{unit}.conf]"
125   end
126 end
127
128 # if we need a different / special kernel version to make the hardware
129 # work (e.g: https://github.com/openstreetmap/operations/issues/45) then
130 # ensure that we have the package installed. the grub template will
131 # make sure that this is the default on boot.
132 if node[:hardware][:grub][:kernel]
133   kernel_version = node[:hardware][:grub][:kernel]
134
135   package "linux-image-#{kernel_version}-generic"
136   package "linux-image-extra-#{kernel_version}-generic"
137   package "linux-headers-#{kernel_version}-generic"
138
139   boot_device = IO.popen(["df", "/boot"]).readlines.last.split.first
140   boot_uuid = IO.popen(["blkid", "-o", "value", "-s", "UUID", boot_device]).readlines.first.chomp
141   grub_entry = "gnulinux-advanced-#{boot_uuid}>gnulinux-#{kernel_version}-advanced-#{boot_uuid}"
142 else
143   grub_entry = "0"
144 end
145
146 if File.exist?("/etc/default/grub")
147   execute "update-grub" do
148     action :nothing
149     command "/usr/sbin/update-grub"
150   end
151
152   template "/etc/default/grub" do
153     source "grub.erb"
154     owner "root"
155     group "root"
156     mode 0644
157     variables :unit => unit, :speed => speed, :entry => grub_entry
158     notifies :run, "execute[update-grub]"
159   end
160 end
161
162 execute "update-initramfs" do
163   action :nothing
164   command "update-initramfs -u -k all"
165   user "root"
166   group "root"
167 end
168
169 template "/etc/initramfs-tools/conf.d/mdadm" do
170   source "initramfs-mdadm.erb"
171   owner "root"
172   group "root"
173   mode 0644
174   notifies :run, "execute[update-initramfs]"
175 end
176
177 package "haveged"
178 service "haveged" do
179   action [:enable, :start]
180 end
181
182 if node[:kernel][:modules].include?("ipmi_si")
183   package "ipmitool"
184 end
185
186 if node[:lsb][:release].to_f >= 12.10
187   package "irqbalance"
188
189   template "/etc/default/irqbalance" do
190     source "irqbalance.erb"
191     owner "root"
192     group "root"
193     mode 0644
194   end
195
196   service "irqbalance" do
197     action [:start, :enable]
198     supports :status => false, :restart => true, :reload => false
199     subscribes :restart, "template[/etc/default/irqbalance]"
200   end
201 end
202
203 tools_packages = []
204 status_packages = {}
205
206 node[:kernel][:modules].each_key do |modname|
207   case modname
208   when "cciss"
209     tools_packages << "hpssacli"
210     status_packages["cciss-vol-status"] ||= []
211   when "hpsa"
212     tools_packages << "hpssacli"
213     status_packages["cciss-vol-status"] ||= []
214   when "mptsas"
215     tools_packages << "lsiutil"
216     # status_packages["mpt-status"] ||= []
217   when "mpt2sas", "mpt3sas"
218     tools_packages << "sas2ircu"
219     status_packages["sas2ircu-status"] ||= []
220   when "megaraid_mm"
221     tools_packages << "megactl"
222     status_packages["megaraid-status"] ||= []
223   when "megaraid_sas"
224     tools_packages << "megacli"
225     status_packages["megaclisas-status"] ||= []
226   when "aacraid"
227     tools_packages << "arcconf"
228     status_packages["aacraid-status"] ||= []
229   when "arcmsr"
230     tools_packages << "areca"
231   end
232 end
233
234 node[:block_device].each do |name, attributes|
235   next unless attributes[:vendor] == "HP" && attributes[:model] == "LOGICAL VOLUME"
236
237   if name =~ /^cciss!(c[0-9]+)d[0-9]+$/
238     status_packages["cciss-vol-status"] |= ["cciss/#{Regexp.last_match[1]}d0"]
239   else
240     Dir.glob("/sys/block/#{name}/device/scsi_generic/*").each do |sg|
241       status_packages["cciss-vol-status"] |= [File.basename(sg)]
242     end
243   end
244 end
245
246 %w(hpssacli lsiutil sas2ircu megactl megacli arcconf).each do |tools_package|
247   if tools_packages.include?(tools_package)
248     package tools_package
249   else
250     package tools_package do
251       action :purge
252     end
253   end
254 end
255
256 if tools_packages.include?("areca")
257   include_recipe "git"
258
259   git "/opt/areca" do
260     action :sync
261     repository "git://chef.openstreetmap.org/areca.git"
262     user "root"
263     group "root"
264   end
265 else
266   directory "/opt/areca" do
267     action :delete
268     recursive true
269   end
270 end
271
272 ["cciss-vol-status", "mpt-status", "sas2ircu-status", "megaraid-status", "megaclisas-status", "aacraid-status"].each do |status_package|
273   if status_packages.include?(status_package)
274     package status_package
275
276     template "/etc/default/#{status_package}d" do
277       source "raid.default.erb"
278       owner "root"
279       group "root"
280       mode 0644
281       variables :devices => status_packages[status_package]
282     end
283
284     service "#{status_package}d" do
285       action [:start, :enable]
286       supports :status => false, :restart => true, :reload => false
287       subscribes :restart, "template[/etc/default/#{status_package}d]"
288     end
289   else
290     package status_package do
291       action :purge
292     end
293
294     file "/etc/default/#{status_package}d" do
295       action :delete
296     end
297   end
298 end
299
300 disks = []
301
302 node[:block_device].each do |name, attributes|
303   disks << { :device => name } if attributes[:vendor] == "ATA"
304 end
305
306 if status_packages["cciss-vol-status"] && File.exist?("/usr/sbin/cciss_vol_status")
307   status_packages["cciss-vol-status"].each do |device|
308     IO.popen(["cciss_vol_status", "-V", "/dev/#{device}"]).each do |line|
309       disks << { :device => device, :driver => "cciss", :id => Regexp.last_match[1].to_i - 1 } if line =~ / bay ([0-9]+) +HP /
310     end
311   end
312 end
313
314 if status_packages["megaclisas-status"] && File.exist?("/usr/sbin/megacli")
315   controller = 0
316
317   Dir.glob("/sys/class/scsi_host/host*") do |host|
318     driver = File.new("#{host}/proc_name").read.chomp
319
320     next unless driver == "megaraid_sas"
321
322     bus = host.sub("/sys/class/scsi_host/host", "")
323     device = File.basename(Dir.glob("/sys/bus/scsi/devices/#{bus}:*/scsi_generic/*").first)
324
325     IO.popen(["megacli", "-PDList", "-a#{controller}", "-NoLog"]).each do |line|
326       disks << { :device => device, :driver => "megaraid",  :id => Regexp.last_match[1] } if line =~ /^Device Id: ([0-9]+)$/
327
328       disks.pop if line =~ /^Firmware state: Hotspare, Spun down$/
329     end
330
331     controller += 1
332   end
333 end
334
335 if tools_packages.include?("lsiutil")
336   Dir.glob("/sys/class/scsi_host/host*") do |host|
337     driver = File.new("#{host}/proc_name").read.chomp
338
339     next unless driver == "mptsas"
340
341     bus = host.sub("/sys/class/scsi_host/host", "")
342
343     Dir.glob("/sys/bus/scsi/devices/#{bus}:0:*/scsi_generic/*").each do |sg|
344       disks << { :device => File.basename(sg) }
345     end
346   end
347 end
348
349 if status_packages["sas2ircu-status"]
350   Dir.glob("/sys/class/scsi_host/host*") do |host|
351     driver = File.new("#{host}/proc_name").read.chomp
352
353     next unless driver == "mpt2sas" || driver == "mpt3sas"
354
355     bus = host.sub("/sys/class/scsi_host/host", "")
356
357     Dir.glob("/sys/bus/scsi/devices/#{bus}:0:*/scsi_generic/*").each do |sg|
358       next if File.directory?("#{sg}/../../block")
359
360       disks << { :device => File.basename(sg) }
361     end
362   end
363 end
364
365 if status_packages["aacraid-status"]
366   Dir.glob("/sys/class/scsi_host/host*") do |host|
367     driver = File.new("#{host}/proc_name").read.chomp
368
369     next unless driver == "aacraid"
370
371     bus = host.sub("/sys/class/scsi_host/host", "")
372
373     Dir.glob("/sys/bus/scsi/devices/#{bus}:1:*/scsi_generic/*").each do |sg|
374       disks << { :device => File.basename(sg) }
375     end
376   end
377 end
378
379 if tools_packages.include?("areca") && File.exist?("/opt/areca/x86_64/cli64")
380   device = IO.popen(["lsscsi", "-g"]).grep(%r{Areca +RAID controller .*/dev/(sg[0-9]+)}) do
381     Regexp.last_match[1]
382   end.first
383
384   IO.popen(["/opt/areca/x86_64/cli64", "disk", "info"]).each do |line|
385     next if line =~ /N\.A\./
386
387     if line =~ /^ +[0-9]+ +0*([0-9]+) +(?:Slot#|SLOT )0*([0-9]+) +/
388       enc = Regexp.last_match[1]
389       slot = Regexp.last_match[2]
390
391       disks << { :device => device, :driver => "areca", :id => "#{slot}/#{enc}" }
392     elsif line =~ /^ +([0-9]+) +[0-9]+ +/
393       disks << { :device => device, :driver => "areca", :id => Regexp.last_match[1] }
394     end
395   end
396 end
397
398 disks.each do |disk|
399   if disk[:device] =~ %r{^cciss/(.*)$}
400     id = File.read("/sys/bus/cciss/devices/#{Regexp.last_match[1]}/unique_id").chomp
401
402     disk[:munin] = "cciss-3#{id.downcase}"
403   else
404     disk[:munin] = disk[:device]
405   end
406
407   if disk[:id]
408     disk[:munin] = "#{disk[:munin]}-#{disk[:id].to_s.tr('/', ':')}"
409   end
410
411   disk[:hddtemp] = disk[:munin].tr("-:", "_")
412 end
413
414 if disks.count > 0
415   package "smartmontools"
416
417   template "/usr/local/bin/smartd-mailer" do
418     source "smartd-mailer.erb"
419     owner "root"
420     group "root"
421     mode 0755
422   end
423
424   template "/etc/smartd.conf" do
425     source "smartd.conf.erb"
426     owner "root"
427     group "root"
428     mode 0644
429     variables :disks => disks
430     notifies :reload, "service[smartmontools]"
431   end
432
433   template "/etc/default/smartmontools" do
434     source "smartmontools.erb"
435     owner "root"
436     group "root"
437     mode 0644
438     notifies :restart, "service[smartmontools]"
439   end
440
441   service "smartmontools" do
442     action [:enable, :start]
443     supports :status => true, :restart => true, :reload => true
444   end
445
446   # Don't try and do munin monitoring of disks behind
447   # an Areca controller as they only allow one thing to
448   # talk to the controller at a time and smartd will
449   # throw errors if it clashes with munin
450   disks = disks.reject { |disk| disk[:driver] == "areca" }
451
452   disks.each do |disk|
453     munin_plugin "smart_#{disk[:munin]}" do
454       target "smart_"
455       conf "munin.smart.erb"
456       conf_variables :disk => disk
457     end
458   end
459 else
460   service "smartmontools" do
461     action [:stop, :disable]
462   end
463 end
464
465 if disks.count > 0
466   munin_plugin "hddtemp_smartctl" do
467     conf "munin.hddtemp.erb"
468     conf_variables :disks => disks
469   end
470 else
471   munin_plugin "hddtemp_smartctl" do
472     action :delete
473     conf "munin.hddtemp.erb"
474   end
475 end
476
477 plugins = Dir.glob("/etc/munin/plugins/smart_*").map { |p| File.basename(p) } -
478           disks.map { |d| "smart_#{d[:munin]}" }
479
480 plugins.each do |plugin|
481   munin_plugin plugin do
482     action :delete
483   end
484 end
485
486 if File.exist?("/etc/mdadm/mdadm.conf")
487   mdadm_conf = edit_file "/etc/mdadm/mdadm.conf" do |line|
488     line.gsub!(/^MAILADDR .*$/, "MAILADDR admins@openstreetmap.org")
489
490     line
491   end
492
493   file "/etc/mdadm/mdadm.conf" do
494     owner "root"
495     group "root"
496     mode 0644
497     content mdadm_conf
498   end
499
500   service "mdadm" do
501     action :nothing
502     subscribes :restart, "file[/etc/mdadm/mdadm.conf]"
503   end
504 end
505
506 template "/etc/modules" do
507   source "modules.erb"
508   owner "root"
509   group "root"
510   mode 0644
511 end
512
513 if node[:lsb][:release].to_f <= 12.10
514   service "module-init-tools" do
515     provider Chef::Provider::Service::Upstart
516     action :nothing
517     subscribes :start, "template[/etc/modules]"
518   end
519 else
520   service "kmod" do
521     provider Chef::Provider::Service::Upstart
522     action :nothing
523     subscribes :start, "template[/etc/modules]"
524   end
525 end
526
527 if node[:hardware][:watchdog]
528   package "watchdog"
529
530   template "/etc/default/watchdog" do
531     source "watchdog.erb"
532     owner "root"
533     group "root"
534     mode 0644
535     variables :module => node[:hardware][:watchdog]
536   end
537
538   service "watchdog" do
539     action [:enable, :start]
540   end
541 end
542
543 unless Dir.glob("/sys/class/hwmon/hwmon*").empty?
544   package "lm-sensors"
545
546   Dir.glob("/sys/devices/platform/coretemp.*").each do |coretemp|
547     cpu = File.basename(coretemp).sub("coretemp.", "").to_i
548     chip = format("coretemp-isa-%04d", cpu)
549
550     if File.exist?("#{coretemp}/name")
551       temps = Dir.glob("#{coretemp}/temp*_input").map do |temp|
552         File.basename(temp).sub("temp", "").sub("_input", "").to_i
553       end.sort
554     else
555       temps = Dir.glob("#{coretemp}/hwmon/hwmon*/temp*_input").map do |temp|
556         File.basename(temp).sub("temp", "").sub("_input", "").to_i
557       end.sort
558     end
559
560     if temps.first == 1
561       node.default[:hardware][:sensors][chip][:temps][:temp1][:label] = "CPU #{cpu}"
562       temps.shift
563     end
564
565     temps.each_with_index do |temp, index|
566       node.default[:hardware][:sensors][chip][:temps]["temp#{temp}"][:label] = "CPU #{cpu} Core #{index}"
567     end
568   end
569
570   execute "/etc/sensors.d/chef.conf" do
571     action :nothing
572     command "/usr/bin/sensors -s"
573     user "root"
574     group "root"
575   end
576
577   template "/etc/sensors.d/chef.conf" do
578     source "sensors.conf.erb"
579     owner "root"
580     group "root"
581     mode 0644
582     notifies :run, "execute[/etc/sensors.d/chef.conf]"
583   end
584 end