cookbooks/prometheus/recipes/server.rb

   1 #
   2 # Cookbook:: prometheus
   3 # Recipe:: server
   4 #
   5 # Copyright:: 2020, OpenStreetMap Foundation
   6 #
   7 # Licensed under the Apache License, Version 2.0 (the "License");
   8 # you may not use this file except in compliance with the License.
   9 # You may obtain a copy of the License at
  10 #
  11 #     https://www.apache.org/licenses/LICENSE-2.0
  12 #
  13 # Unless required by applicable law or agreed to in writing, software
  14 # distributed under the License is distributed on an "AS IS" BASIS,
  15 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  16 # See the License for the specific language governing permissions and
  17 # limitations under the License.
  18 #
  19
  20 include_recipe "apache"
  21 include_recipe "apt::grafana"
  22 include_recipe "awscli"
  23 include_recipe "networking"
  24
  25 passwords = data_bag_item("prometheus", "passwords")
  26 tokens = data_bag_item("prometheus", "tokens")
  27 aws_credentials = data_bag_item("prometheus", "aws")
  28 admins = data_bag_item("apache", "admins")
  29
  30 prometheus_exporter "fastly" do
  31   port 8080
  32   listen_switch "listen"
  33   environment "FASTLY_API_TOKEN" => tokens["fastly"]
  34 end
  35
  36 prometheus_exporter "fastly_healthcheck" do
  37   port 9696
  38   scrape_interval "1m"
  39   scrape_timeout "1m"
  40   environment "FASTLY_API_TOKEN" => tokens["fastly"]
  41 end
  42
  43 prometheus_exporter "statuscake" do
  44   port 9595
  45   scrape_interval "5m"
  46   scrape_timeout "2m"
  47   environment "STATUSCAKE_APIKEY" => tokens["statuscake"]
  48 end
  49
  50 template "/etc/prometheus/cloudwatch.yml" do
  51   source "cloudwatch.yml.erb"
  52   owner "root"
  53   group "root"
  54   mode "644"
  55 end
  56
  57 prometheus_exporter "cloudwatch" do
  58   address "127.0.0.1"
  59   port 5000
  60   listen_switch "listen-address"
  61   options %w[
  62     --config.file=/etc/prometheus/cloudwatch.yml
  63     --enable-feature=aws-sdk-v2
  64     --enable-feature=always-return-info-metrics
  65   ]
  66   environment "AWS_ACCESS_KEY_ID" => aws_credentials["cloudwatch_access_key_id"],
  67               "AWS_SECRET_ACCESS_KEY" => aws_credentials["cloudwatch_secret_access_key"]
  68   subscribes :restart, "template[/etc/prometheus/cloudwatch.yml]"
  69 end
  70
  71 cache_dir = Chef::Config[:file_cache_path]
  72
  73 prometheus_version = "3.7.3"
  74 alertmanager_version = "0.29.0"
  75 karma_version = "0.122"
  76
  77 directory "/opt/prometheus-server" do
  78   owner "root"
  79   group "root"
  80   mode "755"
  81 end
  82
  83 prometheus_arch = if arm?
  84                     "arm64"
  85                   else
  86                     "amd64"
  87                   end
  88
  89 remote_file "#{cache_dir}/prometheus.linux.tar.gz" do
  90   source "https://github.com/prometheus/prometheus/releases/download/v#{prometheus_version}/prometheus-#{prometheus_version}.linux-#{prometheus_arch}.tar.gz"
  91   owner "root"
  92   group "root"
  93   mode "644"
  94   backup false
  95 end
  96
  97 archive_file "#{cache_dir}/prometheus.linux.tar.gz" do
  98   action :nothing
  99   destination "/opt/prometheus-server/prometheus"
 100   overwrite true
 101   strip_components 1
 102   owner "root"
 103   group "root"
 104   subscribes :extract, "remote_file[#{cache_dir}/prometheus.linux.tar.gz]", :immediately
 105 end
 106
 107 remote_file "#{cache_dir}/alertmanager.linux.tar.gz" do
 108   source "https://github.com/prometheus/alertmanager/releases/download/v#{alertmanager_version}/alertmanager-#{alertmanager_version}.linux-#{prometheus_arch}.tar.gz"
 109   owner "root"
 110   group "root"
 111   mode "644"
 112   backup false
 113 end
 114
 115 archive_file "#{cache_dir}/alertmanager.linux.tar.gz" do
 116   action :nothing
 117   destination "/opt/prometheus-server/alertmanager"
 118   overwrite true
 119   strip_components 1
 120   owner "root"
 121   group "root"
 122   subscribes :extract, "remote_file[#{cache_dir}/alertmanager.linux.tar.gz]", :immediately
 123 end
 124
 125 remote_file "#{cache_dir}/karma-linux.tar.gz" do
 126   source "https://github.com/prymitive/karma/releases/download/v#{karma_version}/karma-linux-#{prometheus_arch}.tar.gz"
 127   owner "root"
 128   group "root"
 129   mode "644"
 130   backup false
 131 end
 132
 133 archive_file "#{cache_dir}/karma-linux.tar.gz" do
 134   action :nothing
 135   destination "/opt/prometheus-server/karma"
 136   overwrite true
 137   owner "root"
 138   group "root"
 139   subscribes :extract, "remote_file[#{cache_dir}/karma-linux.tar.gz]", :immediately
 140 end
 141
 142 search(:node, "roles:gateway") do |gateway|
 143   allowed_ips = gateway.ipaddresses(:role => :internal).map(&:subnet)
 144
 145   node.default[:networking][:wireguard][:peers] << {
 146     :public_key => gateway[:networking][:wireguard][:public_key],
 147     :allowed_ips => allowed_ips,
 148     :endpoint => "#{gateway.name}:51820"
 149   }
 150 end
 151
 152 jobs = {}
 153 junos_targets = []
 154 snmp_targets = []
 155
 156 search(:node, "recipes:prometheus\\:\\:default").sort_by(&:name).each do |client|
 157   if client[:prometheus][:mode] == "wireguard"
 158     node.default[:networking][:wireguard][:peers] << {
 159       :public_key => client[:networking][:wireguard][:public_key],
 160       :allowed_ips => client[:networking][:wireguard][:address],
 161       :endpoint => "#{client.name}:51820"
 162     }
 163   end
 164
 165   client[:prometheus][:exporters].each do |key, exporter|
 166     if exporter.is_a?(Hash)
 167       name = exporter[:name]
 168       address = exporter[:address]
 169       sni = exporter[:sni]
 170       labels = Array(exporter[:labels])
 171       scrape_interval = exporter[:scrape_interval]
 172       scrape_timeout = exporter[:scrape_timeout]
 173       metric_relabel = exporter[:metric_relabel] || []
 174     else
 175       name = key
 176       address = exporter
 177       sni = nil
 178       labels = []
 179       scrape_interval = nil
 180       scrape_timeout = nil
 181       metric_relabel = []
 182     end
 183
 184     jobs[name] ||= []
 185     jobs[name] << {
 186       :address => address,
 187       :sni => sni,
 188       :instance => client.name.split(".").first,
 189       :labels => labels,
 190       :scrape_interval => scrape_interval,
 191       :scrape_timeout => scrape_timeout,
 192       :metric_relabel => metric_relabel
 193     }
 194   end
 195
 196   Hash(client[:prometheus][:junos]).each do |instance, details|
 197     junos_targets << {
 198       :instance => instance,
 199       :target => details[:address],
 200       :address => client[:prometheus][:addresses]["junos"],
 201       :labels => Array(details[:labels])
 202     }
 203   end
 204
 205   Hash(client[:prometheus][:snmp]).each do |instance, details|
 206     snmp_targets << {
 207       :instance => instance,
 208       :target => details[:address],
 209       :modules => details[:modules],
 210       :address => client[:prometheus][:addresses]["snmp"],
 211       :labels => Array(details[:labels])
 212     }
 213   end
 214 end
 215
 216 certificates = search(:node, "letsencrypt:certificates").each_with_object({}) do |n, c|
 217   n[:letsencrypt][:certificates].each do |name, details|
 218     c[name] ||= details.merge(:nodes => [])
 219
 220     c[name][:nodes] << {
 221       :name => n[:fqdn],
 222       :address => n.external_ipaddress || n.internal_ipaddress
 223     }
 224   end
 225 end
 226
 227 template "/etc/prometheus/ssl.yml" do
 228   source "ssl.yml.erb"
 229   owner "root"
 230   group "root"
 231   mode "644"
 232   variables :certificates => certificates
 233 end
 234
 235 prometheus_exporter "ssl" do
 236   address "127.0.0.1"
 237   port 9219
 238   options "--config.file=/etc/prometheus/ssl.yml"
 239   register_target false
 240 end
 241
 242 package "prometheus"
 243
 244 systemd_service "prometheus-executable" do
 245   service "prometheus"
 246   dropin "executable"
 247   exec_start "/opt/prometheus-server/prometheus/prometheus --config.file=/etc/prometheus/prometheus.yml --web.enable-admin-api --web.external-url=https://prometheus.openstreetmap.org/prometheus --storage.tsdb.path=/var/lib/prometheus/metrics2 --storage.tsdb.retention.time=540d"
 248   timeout_stop_sec 300
 249   notifies :restart, "service[prometheus]"
 250 end
 251
 252 template "/etc/prometheus/prometheus.yml" do
 253   source "prometheus.yml.erb"
 254   owner "root"
 255   group "root"
 256   mode "644"
 257   variables :jobs => jobs, :junos_targets => junos_targets, :snmp_targets => snmp_targets, :certificates => certificates
 258 end
 259
 260 template "/etc/prometheus/alert_rules.yml" do
 261   source "alert_rules.yml.erb"
 262   owner "root"
 263   group "root"
 264   mode "644"
 265 end
 266
 267 service "prometheus" do
 268   action [:enable, :start]
 269   subscribes :reload, "template[/etc/prometheus/prometheus.yml]"
 270   subscribes :reload, "template[/etc/prometheus/alert_rules.yml]"
 271   subscribes :restart, "archive_file[#{cache_dir}/prometheus.linux.tar.gz]"
 272 end
 273
 274 systemd_service "prometheus-alertmanager" do
 275   description "Prometheus alert manager"
 276   type "simple"
 277   user "prometheus"
 278   exec_start "/opt/prometheus-server/alertmanager/alertmanager --config.file=/etc/prometheus/alertmanager.yml --storage.path=/var/lib/prometheus/alertmanager --web.external-url=https://prometheus.openstreetmap.org/alertmanager"
 279   exec_reload "/bin/kill -HUP $MAINPID"
 280   timeout_stop_sec 20
 281   restart "on-failure"
 282   notifies :restart, "service[prometheus-alertmanager]"
 283 end
 284
 285 link "/usr/local/bin/promtool" do
 286   to "/opt/prometheus-server/prometheus/promtool"
 287 end
 288
 289 template "/etc/prometheus/alertmanager.yml" do
 290   source "alertmanager.yml.erb"
 291   owner "root"
 292   group "root"
 293   mode "644"
 294 end
 295
 296 directory "/var/lib/prometheus/alertmanager" do
 297   owner "prometheus"
 298   group "prometheus"
 299   mode "755"
 300 end
 301
 302 service "prometheus-alertmanager" do
 303   action [:enable, :start]
 304   subscribes :reload, "template[/etc/prometheus/alertmanager.yml]"
 305   subscribes :restart, "systemd_service[prometheus-alertmanager]"
 306   subscribes :restart, "archive_file[#{cache_dir}/alertmanager.linux.tar.gz]"
 307 end
 308
 309 directory "/etc/amtool" do
 310   owner "root"
 311   group "root"
 312   mode "755"
 313 end
 314
 315 template "/etc/amtool/config.yml" do
 316   source "amtool.yml.erb"
 317   owner "root"
 318   group "root"
 319   mode "644"
 320 end
 321
 322 link "/usr/local/bin/amtool" do
 323   to "/opt/prometheus-server/alertmanager/amtool"
 324 end
 325
 326 template "/etc/prometheus/karma.yml" do
 327   source "karma.yml.erb"
 328   owner "root"
 329   group "root"
 330   mode "644"
 331 end
 332
 333 systemd_service "prometheus-karma" do
 334   description "Alert dashboard for Prometheus Alertmanager"
 335   user "prometheus"
 336   exec_start "/opt/prometheus-server/karma/karma-linux-#{prometheus_arch} --config.file=/etc/prometheus/karma.yml"
 337   sandbox :enable_network => true
 338   restart "on-failure"
 339 end
 340
 341 service "prometheus-karma" do
 342   action [:enable, :start]
 343   subscribes :restart, "template[/etc/prometheus/karma.yml]"
 344   subscribes :restart, "archive_file[#{cache_dir}/karma-linux.tar.gz]"
 345   subscribes :restart, "systemd_service[prometheus-karma]"
 346 end
 347
 348 package "grafana-enterprise"
 349
 350 template "/etc/grafana/grafana.ini" do
 351   source "grafana.ini.erb"
 352   owner "root"
 353   group "grafana"
 354   mode "640"
 355   variables :passwords => passwords
 356 end
 357
 358 service "grafana-server" do
 359   action [:enable, :start]
 360   subscribes :restart, "template[/etc/grafana/grafana.ini]"
 361 end
 362
 363 apache_module "alias"
 364 apache_module "proxy_http"
 365 apache_module "proxy_wstunnel"
 366
 367 ssl_certificate "prometheus.openstreetmap.org" do
 368   domains ["prometheus.openstreetmap.org", "prometheus.osm.org", "munin.openstreetmap.org", "munin.osm.org"]
 369   notifies :reload, "service[apache2]"
 370 end
 371
 372 apache_site "prometheus.openstreetmap.org" do
 373   template "apache.erb"
 374   variables :admin_hosts => admins["hosts"]
 375 end
 376
 377 template "/etc/cron.daily/prometheus-backup" do
 378   source "backup.cron.erb"
 379   owner "root"
 380   group "root"
 381   mode "750"
 382 end
 383
 384 package %w[
 385   curl
 386   jq
 387 ]
 388
 389 directory "/var/lib/prometheus/.aws" do
 390   user "prometheus"
 391   group "prometheus"
 392   mode "755"
 393 end
 394
 395 template "/var/lib/prometheus/.aws/credentials" do
 396   source "aws-credentials.erb"
 397   user "prometheus"
 398   group "prometheus"
 399   mode "600"
 400   variables :aws_credentials => aws_credentials
 401   sensitive true
 402 end
 403
 404 template "/usr/local/bin/prometheus-backup-data" do
 405   source "backup-data.erb"
 406   owner "root"
 407   group "root"
 408   mode "755"
 409 end
 410
 411 systemd_service "prometheus-backup-data" do
 412   description "Backup prometheus data to S3"
 413   user "prometheus"
 414   exec_start "/usr/local/bin/prometheus-backup-data"
 415   read_write_paths %w[
 416     /var/lib/prometheus/.aws
 417     /var/lib/prometheus/metrics2/snapshots
 418   ]
 419   sandbox :enable_network => true
 420 end
 421
 422 systemd_timer "prometheus-backup-data" do
 423   description "Backup prometheus data to S3"
 424   on_calendar "03:11"
 425 end
 426
 427 service "prometheus-backup-data.timer" do
 428   action [:enable, :start]
 429 end