cookbooks/prometheus/recipes/server.rb

   1 #
   2 # Cookbook:: prometheus
   3 # Recipe:: server
   4 #
   5 # Copyright:: 2020, OpenStreetMap Foundation
   6 #
   7 # Licensed under the Apache License, Version 2.0 (the "License");
   8 # you may not use this file except in compliance with the License.
   9 # You may obtain a copy of the License at
  10 #
  11 #     https://www.apache.org/licenses/LICENSE-2.0
  12 #
  13 # Unless required by applicable law or agreed to in writing, software
  14 # distributed under the License is distributed on an "AS IS" BASIS,
  15 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  16 # See the License for the specific language governing permissions and
  17 # limitations under the License.
  18 #
  19
  20 include_recipe "apache"
  21 include_recipe "apt"
  22 include_recipe "networking"
  23 include_recipe "timescaledb"
  24
  25 passwords = data_bag_item("prometheus", "passwords")
  26 tokens = data_bag_item("prometheus", "tokens")
  27 admins = data_bag_item("apache", "admins")
  28
  29 prometheus_exporter "fastly" do
  30   port 8080
  31   listen_switch "endpoint"
  32   listen_type "url"
  33   environment "FASTLY_API_TOKEN" => tokens["fastly"]
  34 end
  35
  36 cache_dir = Chef::Config[:file_cache_path]
  37
  38 prometheus_version = "2.31.1"
  39 alertmanager_version = "0.23.0"
  40 karma_version = "0.93"
  41
  42 directory "/opt/prometheus-server" do
  43   owner "root"
  44   group "root"
  45   mode "755"
  46 end
  47
  48 remote_file "#{cache_dir}/prometheus.linux-amd64.tar.gz" do
  49   source "https://github.com/prometheus/prometheus/releases/download/v#{prometheus_version}/prometheus-#{prometheus_version}.linux-amd64.tar.gz"
  50   owner "root"
  51   group "root"
  52   mode "644"
  53   backup false
  54 end
  55
  56 archive_file "#{cache_dir}/prometheus.linux-amd64.tar.gz" do
  57   action :nothing
  58   destination "/opt/prometheus-server/prometheus"
  59   overwrite true
  60   strip_components 1
  61   owner "root"
  62   group "root"
  63   subscribes :extract, "remote_file[#{cache_dir}/prometheus.linux-amd64.tar.gz]"
  64 end
  65
  66 remote_file "#{cache_dir}/alertmanager.linux-amd64.tar.gz" do
  67   source "https://github.com/prometheus/alertmanager/releases/download/v#{alertmanager_version}/alertmanager-#{alertmanager_version}.linux-amd64.tar.gz"
  68   owner "root"
  69   group "root"
  70   mode "644"
  71   backup false
  72 end
  73
  74 archive_file "#{cache_dir}/alertmanager.linux-amd64.tar.gz" do
  75   action :nothing
  76   destination "/opt/prometheus-server/alertmanager"
  77   overwrite true
  78   strip_components 1
  79   owner "root"
  80   group "root"
  81   subscribes :extract, "remote_file[#{cache_dir}/alertmanager.linux-amd64.tar.gz]"
  82 end
  83
  84 remote_file "#{cache_dir}/karma-linux-amd64.tar.gz" do
  85   source "https://github.com/prymitive/karma/releases/download/v#{karma_version}/karma-linux-amd64.tar.gz"
  86   owner "root"
  87   group "root"
  88   mode "644"
  89   backup false
  90 end
  91
  92 archive_file "#{cache_dir}/karma-linux-amd64.tar.gz" do
  93   action :nothing
  94   destination "/opt/prometheus-server/karma"
  95   overwrite true
  96   owner "root"
  97   group "root"
  98   subscribes :extract, "remote_file[#{cache_dir}/karma-linux-amd64.tar.gz]"
  99 end
 100
 101 package %w[
 102   prometheus
 103   prometheus-alertmanager
 104 ]
 105
 106 promscale_version = "0.7.1"
 107 promscale_extension_version = "0.3.0"
 108
 109 database_version = node[:timescaledb][:database_version]
 110 database_cluster = "#{database_version}/main"
 111
 112 postgresql_user "prometheus" do
 113   cluster database_cluster
 114   superuser true
 115 end
 116
 117 postgresql_database "promscale" do
 118   cluster database_cluster
 119   owner "prometheus"
 120 end
 121
 122 directory "/opt/promscale" do
 123   owner "root"
 124   group "root"
 125   mode "755"
 126 end
 127
 128 remote_file "#{cache_dir}/promscale_extension.pg#{database_version}.x86_64.deb" do
 129   source "https://github.com/timescale/promscale_extension/releases/download/#{promscale_extension_version}/promscale_extension-#{promscale_extension_version}.pg#{database_version}.x86_64.deb"
 130   owner "root"
 131   group "root"
 132   mode "644"
 133   backup false
 134 end
 135
 136 dpkg_package "promscale-extension-postgresql-#{database_version}" do
 137   source "#{cache_dir}/promscale_extension.pg#{database_version}.x86_64.deb"
 138   version "#{promscale_extension_version}-1"
 139 end
 140
 141 directory "/opt/promscale/bin" do
 142   owner "root"
 143   group "root"
 144   mode "755"
 145 end
 146
 147 remote_file "/opt/promscale/bin/promscale" do
 148   action :create
 149   source "https://github.com/timescale/promscale/releases/download/#{promscale_version}/promscale_#{promscale_version}_Linux_x86_64"
 150   owner "root"
 151   group "root"
 152   mode "755"
 153 end
 154
 155 systemd_service "promscale" do
 156   description "Promscale Connector"
 157   type "simple"
 158   user "prometheus"
 159   exec_start "/opt/promscale/bin/promscale --db-uri postgresql:///promscale?host=/run/postgresql&port=5432 --db-connections-max 400"
 160   # exec_start lazy { "/opt/promscale/bin/promscale --db-host /run/postgresql --db-port #{node[:postgresql][:clusters][database_cluster][:port]} --db-user prometheus --db-name promscale --db-max-connections 400" }
 161   limit_nofile 16384
 162   private_tmp true
 163   protect_system "strict"
 164   protect_home true
 165   no_new_privileges true
 166 end
 167
 168 systemd_service "promscale-maintenance" do
 169   description "Promscale Maintenance"
 170   type "simple"
 171   user "prometheus"
 172   exec_start "/usr/bin/psql --command='CALL prom_api.execute_maintenance()' promscale"
 173   private_tmp true
 174   protect_system "strict"
 175   protect_home true
 176   no_new_privileges true
 177 end
 178
 179 systemd_timer "promscale-maintenance" do
 180   description "Promscale Maintenace"
 181   on_active_sec 1800
 182   on_unit_inactive_sec 1800
 183 end
 184
 185 if node[:prometheus][:promscale]
 186   service "promscale" do
 187     action [:enable, :start]
 188     subscribes :restart, "remote_file[/opt/promscale/bin/promscale]"
 189     subscribes :restart, "systemd_service[promscale]"
 190   end
 191
 192   service "promscale-maintenance.timer" do
 193     action [:enable, :start]
 194   end
 195 else
 196   service "promscale" do
 197     action [:disable, :stop]
 198   end
 199
 200   service "promscale-maintenance.timer" do
 201     action [:disable, :stop]
 202   end
 203 end
 204
 205 search(:node, "roles:gateway") do |gateway|
 206   allowed_ips = gateway.interfaces(:role => :internal).map do |interface|
 207     "#{interface[:network]}/#{interface[:prefix]}"
 208   end
 209
 210   node.default[:networking][:wireguard][:peers] << {
 211     :public_key => gateway[:networking][:wireguard][:public_key],
 212     :allowed_ips => allowed_ips,
 213     :endpoint => "#{gateway.name}:51820"
 214   }
 215 end
 216
 217 jobs = {}
 218 snmp_targets = []
 219
 220 search(:node, "recipes:prometheus\\:\\:default").sort_by(&:name).each do |client|
 221   if client[:prometheus][:mode] == "wireguard"
 222     node.default[:networking][:wireguard][:peers] << {
 223       :public_key => client[:networking][:wireguard][:public_key],
 224       :allowed_ips => client[:networking][:wireguard][:address],
 225       :endpoint => "#{client.name}:51820"
 226     }
 227   end
 228
 229   client[:prometheus][:exporters].each do |key, exporter|
 230     if exporter.is_a?(Hash)
 231       name = exporter[:name]
 232       address = exporter[:address]
 233       metric_relabel = exporter[:metric_relabel] || []
 234     else
 235       name = key
 236       address = exporter
 237       metric_relabel = []
 238     end
 239
 240     jobs[name] ||= []
 241     jobs[name] << {
 242       :address => address,
 243       :instance => client.name.split(".").first,
 244       :metric_relabel => metric_relabel
 245     }
 246   end
 247
 248   Hash(client[:prometheus][:snmp]).each do |instance, details|
 249     snmp_targets << {
 250       :instance => instance,
 251       :target => details[:address],
 252       :module => details[:module],
 253       :address => client[:prometheus][:addresses]["snmp"],
 254       :labels => Array(details[:labels])
 255     }
 256   end
 257 end
 258
 259 certificates = search(:node, "letsencrypt:certificates").each_with_object({}) do |n, c|
 260   n[:letsencrypt][:certificates].each do |name, details|
 261     c[name] ||= details.merge(:nodes => [])
 262
 263     c[name][:nodes] << {
 264       :name => n[:fqdn],
 265       :address => n.external_ipaddress || n.internal_ipaddress
 266     }
 267   end
 268 end
 269
 270 template "/etc/prometheus/ssl.yml" do
 271   source "ssl.yml.erb"
 272   owner "root"
 273   group "root"
 274   mode "644"
 275   variables :certificates => certificates
 276 end
 277
 278 prometheus_exporter "ssl" do
 279   address "127.0.0.1"
 280   port 9219
 281   options "--config.file=/etc/prometheus/ssl.yml"
 282   register_target false
 283 end
 284
 285 systemd_service "prometheus-executable" do
 286   service "prometheus"
 287   dropin "executable"
 288   exec_start "/opt/prometheus-server/prometheus/prometheus --config.file=/etc/prometheus/prometheus.yml --web.external-url=https://prometheus.openstreetmap.org/prometheus --storage.tsdb.path=/var/lib/prometheus/metrics2"
 289   notifies :restart, "service[prometheus]"
 290 end
 291
 292 template "/etc/prometheus/prometheus.yml" do
 293   source "prometheus.yml.erb"
 294   owner "root"
 295   group "root"
 296   mode "644"
 297   variables :jobs => jobs, :snmp_targets => snmp_targets, :certificates => certificates
 298 end
 299
 300 template "/etc/prometheus/alert_rules.yml" do
 301   source "alert_rules.yml.erb"
 302   owner "root"
 303   group "root"
 304   mode "644"
 305 end
 306
 307 service "prometheus" do
 308   action [:enable, :start]
 309   subscribes :reload, "template[/etc/prometheus/prometheus.yml]"
 310   subscribes :reload, "template[/etc/prometheus/alert_rules.yml]"
 311   subscribes :restart, "archive_file[#{cache_dir}/prometheus.linux-amd64.tar.gz]"
 312 end
 313
 314 systemd_service "prometheus-alertmanager-executable" do
 315   service "prometheus-alertmanager"
 316   dropin "executable"
 317   exec_start "/opt/prometheus-server/alertmanager/alertmanager --config.file=/etc/prometheus/alertmanager.yml --storage.path=/var/lib/prometheus/alertmanager --web.external-url=https://prometheus.openstreetmap.org/alertmanager"
 318   notifies :restart, "service[prometheus-alertmanager]"
 319 end
 320
 321 template "/etc/prometheus/alertmanager.yml" do
 322   source "alertmanager.yml.erb"
 323   owner "root"
 324   group "root"
 325   mode "644"
 326 end
 327
 328 service "prometheus-alertmanager" do
 329   action [:enable, :start]
 330   subscribes :reload, "template[/etc/prometheus/alertmanager.yml]"
 331   subscribes :restart, "archive_file[#{cache_dir}/alertmanager.linux-amd64.tar.gz]"
 332 end
 333
 334 template "/etc/prometheus/amtool.yml" do
 335   source "amtool.yml.erb"
 336   owner "root"
 337   group "root"
 338   mode "644"
 339 end
 340
 341 template "/etc/prometheus/karma.yml" do
 342   source "karma.yml.erb"
 343   owner "root"
 344   group "root"
 345   mode "644"
 346 end
 347
 348 systemd_service "prometheus-karma" do
 349   description "Alert dashboard for Prometheus Alertmanager"
 350   user "prometheus"
 351   exec_start "/opt/prometheus-server/karma/karma-linux-amd64 --config.file=/etc/prometheus/karma.yml"
 352   private_tmp true
 353   private_devices true
 354   protect_system "full"
 355   protect_home true
 356   no_new_privileges true
 357   restart "on-failure"
 358 end
 359
 360 service "prometheus-karma" do
 361   action [:enable, :start]
 362   subscribes :reload, "template[/etc/prometheus/karma.yml]"
 363   subscribes :restart, "archive_file[#{cache_dir}/karma-linux-amd64.tar.gz]"
 364 end
 365
 366 package "grafana-enterprise"
 367
 368 template "/etc/grafana/grafana.ini" do
 369   source "grafana.ini.erb"
 370   owner "root"
 371   group "grafana"
 372   mode "640"
 373   variables :passwords => passwords
 374 end
 375
 376 service "grafana-server" do
 377   action [:enable, :start]
 378   subscribes :restart, "template[/etc/grafana/grafana.ini]"
 379 end
 380
 381 apache_module "alias"
 382 apache_module "proxy_http"
 383
 384 ssl_certificate "prometheus.openstreetmap.org" do
 385   domains ["prometheus.openstreetmap.org", "prometheus.osm.org"]
 386   notifies :reload, "service[apache2]"
 387 end
 388
 389 apache_site "prometheus.openstreetmap.org" do
 390   template "apache.erb"
 391   variables :admin_hosts => admins["hosts"]
 392 end
 393
 394 template "/etc/cron.daily/prometheus-backup" do
 395   source "backup.cron.erb"
 396   owner "root"
 397   group "root"
 398   mode "750"
 399 end