cookbooks/prometheus/recipes/server.rb

   1 #
   2 # Cookbook:: prometheus
   3 # Recipe:: server
   4 #
   5 # Copyright:: 2020, OpenStreetMap Foundation
   6 #
   7 # Licensed under the Apache License, Version 2.0 (the "License");
   8 # you may not use this file except in compliance with the License.
   9 # You may obtain a copy of the License at
  10 #
  11 #     https://www.apache.org/licenses/LICENSE-2.0
  12 #
  13 # Unless required by applicable law or agreed to in writing, software
  14 # distributed under the License is distributed on an "AS IS" BASIS,
  15 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  16 # See the License for the specific language governing permissions and
  17 # limitations under the License.
  18 #
  19
  20 include_recipe "apache"
  21 include_recipe "apt"
  22 include_recipe "networking"
  23 include_recipe "timescaledb"
  24
  25 passwords = data_bag_item("prometheus", "passwords")
  26 tokens = data_bag_item("prometheus", "tokens")
  27 admins = data_bag_item("apache", "admins")
  28
  29 prometheus_exporter "fastly" do
  30   port 8080
  31   listen_switch "listen"
  32   environment "FASTLY_API_TOKEN" => tokens["fastly"]
  33 end
  34
  35 cache_dir = Chef::Config[:file_cache_path]
  36
  37 prometheus_version = "2.31.1"
  38 alertmanager_version = "0.23.0"
  39 karma_version = "0.93"
  40
  41 directory "/opt/prometheus-server" do
  42   owner "root"
  43   group "root"
  44   mode "755"
  45 end
  46
  47 remote_file "#{cache_dir}/prometheus.linux-amd64.tar.gz" do
  48   source "https://github.com/prometheus/prometheus/releases/download/v#{prometheus_version}/prometheus-#{prometheus_version}.linux-amd64.tar.gz"
  49   owner "root"
  50   group "root"
  51   mode "644"
  52   backup false
  53 end
  54
  55 archive_file "#{cache_dir}/prometheus.linux-amd64.tar.gz" do
  56   action :nothing
  57   destination "/opt/prometheus-server/prometheus"
  58   overwrite true
  59   strip_components 1
  60   owner "root"
  61   group "root"
  62   subscribes :extract, "remote_file[#{cache_dir}/prometheus.linux-amd64.tar.gz]"
  63 end
  64
  65 remote_file "#{cache_dir}/alertmanager.linux-amd64.tar.gz" do
  66   source "https://github.com/prometheus/alertmanager/releases/download/v#{alertmanager_version}/alertmanager-#{alertmanager_version}.linux-amd64.tar.gz"
  67   owner "root"
  68   group "root"
  69   mode "644"
  70   backup false
  71 end
  72
  73 archive_file "#{cache_dir}/alertmanager.linux-amd64.tar.gz" do
  74   action :nothing
  75   destination "/opt/prometheus-server/alertmanager"
  76   overwrite true
  77   strip_components 1
  78   owner "root"
  79   group "root"
  80   subscribes :extract, "remote_file[#{cache_dir}/alertmanager.linux-amd64.tar.gz]"
  81 end
  82
  83 remote_file "#{cache_dir}/karma-linux-amd64.tar.gz" do
  84   source "https://github.com/prymitive/karma/releases/download/v#{karma_version}/karma-linux-amd64.tar.gz"
  85   owner "root"
  86   group "root"
  87   mode "644"
  88   backup false
  89 end
  90
  91 archive_file "#{cache_dir}/karma-linux-amd64.tar.gz" do
  92   action :nothing
  93   destination "/opt/prometheus-server/karma"
  94   overwrite true
  95   owner "root"
  96   group "root"
  97   subscribes :extract, "remote_file[#{cache_dir}/karma-linux-amd64.tar.gz]"
  98 end
  99
 100 promscale_version = "0.11.0"
 101
 102 database_version = node[:timescaledb][:database_version]
 103 database_cluster = "#{database_version}/main"
 104
 105 package %W[
 106   prometheus
 107   prometheus-alertmanager
 108   promscale-extension-postgresql-#{database_version}
 109 ]
 110
 111 postgresql_user "prometheus" do
 112   cluster database_cluster
 113   superuser true
 114 end
 115
 116 postgresql_database "promscale" do
 117   cluster database_cluster
 118   owner "prometheus"
 119 end
 120
 121 directory "/opt/promscale" do
 122   owner "root"
 123   group "root"
 124   mode "755"
 125 end
 126
 127 directory "/opt/promscale/bin" do
 128   owner "root"
 129   group "root"
 130   mode "755"
 131 end
 132
 133 remote_file "/opt/promscale/bin/promscale" do
 134   action :create
 135   source "https://github.com/timescale/promscale/releases/download/#{promscale_version}/promscale_#{promscale_version}_Linux_x86_64"
 136   owner "root"
 137   group "root"
 138   mode "755"
 139 end
 140
 141 systemd_service "promscale" do
 142   description "Promscale Connector"
 143   type "simple"
 144   user "prometheus"
 145   exec_start "/opt/promscale/bin/promscale --db.uri postgresql:///promscale?host=/run/postgresql&port=5432 --db.connections-max 400"
 146   limit_nofile 16384
 147   private_tmp true
 148   protect_system "strict"
 149   protect_home true
 150   no_new_privileges true
 151 end
 152
 153 if node[:prometheus][:promscale]
 154   service "promscale" do
 155     action [:enable, :start]
 156     subscribes :restart, "remote_file[/opt/promscale/bin/promscale]"
 157     subscribes :restart, "systemd_service[promscale]"
 158   end
 159 else
 160   service "promscale" do
 161     action [:disable, :stop]
 162   end
 163 end
 164
 165 search(:node, "roles:gateway") do |gateway|
 166   allowed_ips = gateway.interfaces(:role => :internal).map do |interface|
 167     "#{interface[:network]}/#{interface[:prefix]}"
 168   end
 169
 170   node.default[:networking][:wireguard][:peers] << {
 171     :public_key => gateway[:networking][:wireguard][:public_key],
 172     :allowed_ips => allowed_ips,
 173     :endpoint => "#{gateway.name}:51820"
 174   }
 175 end
 176
 177 jobs = {}
 178 snmp_targets = []
 179
 180 search(:node, "recipes:prometheus\\:\\:default").sort_by(&:name).each do |client|
 181   if client[:prometheus][:mode] == "wireguard"
 182     node.default[:networking][:wireguard][:peers] << {
 183       :public_key => client[:networking][:wireguard][:public_key],
 184       :allowed_ips => client[:networking][:wireguard][:address],
 185       :endpoint => "#{client.name}:51820"
 186     }
 187   end
 188
 189   client[:prometheus][:exporters].each do |key, exporter|
 190     if exporter.is_a?(Hash)
 191       name = exporter[:name]
 192       address = exporter[:address]
 193       sni = exporter[:sni]
 194       metric_relabel = exporter[:metric_relabel] || []
 195     else
 196       name = key
 197       address = exporter
 198       sni = nil
 199       metric_relabel = []
 200     end
 201
 202     jobs[name] ||= []
 203     jobs[name] << {
 204       :address => address,
 205       :sni => sni,
 206       :instance => client.name.split(".").first,
 207       :metric_relabel => metric_relabel
 208     }
 209   end
 210
 211   Hash(client[:prometheus][:snmp]).each do |instance, details|
 212     snmp_targets << {
 213       :instance => instance,
 214       :target => details[:address],
 215       :module => details[:module],
 216       :address => client[:prometheus][:addresses]["snmp"],
 217       :labels => Array(details[:labels])
 218     }
 219   end
 220 end
 221
 222 certificates = search(:node, "letsencrypt:certificates").each_with_object({}) do |n, c|
 223   n[:letsencrypt][:certificates].each do |name, details|
 224     c[name] ||= details.merge(:nodes => [])
 225
 226     c[name][:nodes] << {
 227       :name => n[:fqdn],
 228       :address => n.external_ipaddress || n.internal_ipaddress
 229     }
 230   end
 231 end
 232
 233 template "/etc/prometheus/ssl.yml" do
 234   source "ssl.yml.erb"
 235   owner "root"
 236   group "root"
 237   mode "644"
 238   variables :certificates => certificates
 239 end
 240
 241 prometheus_exporter "ssl" do
 242   address "127.0.0.1"
 243   port 9219
 244   options "--config.file=/etc/prometheus/ssl.yml"
 245   register_target false
 246 end
 247
 248 systemd_service "prometheus-executable" do
 249   service "prometheus"
 250   dropin "executable"
 251   exec_start "/opt/prometheus-server/prometheus/prometheus --config.file=/etc/prometheus/prometheus.yml --web.external-url=https://prometheus.openstreetmap.org/prometheus --storage.tsdb.path=/var/lib/prometheus/metrics2 --storage.tsdb.retention.time=30d"
 252   timeout_stop_sec 300
 253   notifies :restart, "service[prometheus]"
 254 end
 255
 256 template "/etc/prometheus/prometheus.yml" do
 257   source "prometheus.yml.erb"
 258   owner "root"
 259   group "root"
 260   mode "644"
 261   variables :jobs => jobs, :snmp_targets => snmp_targets, :certificates => certificates
 262 end
 263
 264 template "/etc/prometheus/alert_rules.yml" do
 265   source "alert_rules.yml.erb"
 266   owner "root"
 267   group "root"
 268   mode "644"
 269 end
 270
 271 service "prometheus" do
 272   action [:enable, :start]
 273   subscribes :reload, "template[/etc/prometheus/prometheus.yml]"
 274   subscribes :reload, "template[/etc/prometheus/alert_rules.yml]"
 275   subscribes :restart, "archive_file[#{cache_dir}/prometheus.linux-amd64.tar.gz]"
 276 end
 277
 278 systemd_service "prometheus-alertmanager-executable" do
 279   service "prometheus-alertmanager"
 280   dropin "executable"
 281   exec_start "/opt/prometheus-server/alertmanager/alertmanager --config.file=/etc/prometheus/alertmanager.yml --storage.path=/var/lib/prometheus/alertmanager --web.external-url=https://prometheus.openstreetmap.org/alertmanager"
 282   notifies :restart, "service[prometheus-alertmanager]"
 283 end
 284
 285 template "/etc/prometheus/alertmanager.yml" do
 286   source "alertmanager.yml.erb"
 287   owner "root"
 288   group "root"
 289   mode "644"
 290 end
 291
 292 service "prometheus-alertmanager" do
 293   action [:enable, :start]
 294   subscribes :reload, "template[/etc/prometheus/alertmanager.yml]"
 295   subscribes :restart, "archive_file[#{cache_dir}/alertmanager.linux-amd64.tar.gz]"
 296 end
 297
 298 template "/etc/prometheus/amtool.yml" do
 299   source "amtool.yml.erb"
 300   owner "root"
 301   group "root"
 302   mode "644"
 303 end
 304
 305 template "/etc/prometheus/karma.yml" do
 306   source "karma.yml.erb"
 307   owner "root"
 308   group "root"
 309   mode "644"
 310 end
 311
 312 systemd_service "prometheus-karma" do
 313   description "Alert dashboard for Prometheus Alertmanager"
 314   user "prometheus"
 315   exec_start "/opt/prometheus-server/karma/karma-linux-amd64 --config.file=/etc/prometheus/karma.yml"
 316   private_tmp true
 317   private_devices true
 318   protect_system "full"
 319   protect_home true
 320   no_new_privileges true
 321   restart "on-failure"
 322 end
 323
 324 service "prometheus-karma" do
 325   action [:enable, :start]
 326   subscribes :reload, "template[/etc/prometheus/karma.yml]"
 327   subscribes :restart, "archive_file[#{cache_dir}/karma-linux-amd64.tar.gz]"
 328 end
 329
 330 package "grafana-enterprise"
 331
 332 template "/etc/grafana/grafana.ini" do
 333   source "grafana.ini.erb"
 334   owner "root"
 335   group "grafana"
 336   mode "640"
 337   variables :passwords => passwords
 338 end
 339
 340 service "grafana-server" do
 341   action [:enable, :start]
 342   subscribes :restart, "template[/etc/grafana/grafana.ini]"
 343 end
 344
 345 apache_module "alias"
 346 apache_module "proxy_http"
 347
 348 ssl_certificate "prometheus.openstreetmap.org" do
 349   domains ["prometheus.openstreetmap.org", "prometheus.osm.org"]
 350   notifies :reload, "service[apache2]"
 351 end
 352
 353 apache_site "prometheus.openstreetmap.org" do
 354   template "apache.erb"
 355   variables :admin_hosts => admins["hosts"]
 356 end
 357
 358 template "/etc/cron.daily/prometheus-backup" do
 359   source "backup.cron.erb"
 360   owner "root"
 361   group "root"
 362   mode "750"
 363 end