cookbooks/prometheus/recipes/server.rb

   1 #
   2 # Cookbook:: prometheus
   3 # Recipe:: server
   4 #
   5 # Copyright:: 2020, OpenStreetMap Foundation
   6 #
   7 # Licensed under the Apache License, Version 2.0 (the "License");
   8 # you may not use this file except in compliance with the License.
   9 # You may obtain a copy of the License at
  10 #
  11 #     https://www.apache.org/licenses/LICENSE-2.0
  12 #
  13 # Unless required by applicable law or agreed to in writing, software
  14 # distributed under the License is distributed on an "AS IS" BASIS,
  15 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  16 # See the License for the specific language governing permissions and
  17 # limitations under the License.
  18 #
  19
  20 include_recipe "apache"
  21 include_recipe "apt"
  22 include_recipe "networking"
  23 include_recipe "timescaledb"
  24
  25 passwords = data_bag_item("prometheus", "passwords")
  26 tokens = data_bag_item("prometheus", "tokens")
  27
  28 prometheus_exporter "fastly" do
  29   port 8080
  30   listen_switch "endpoint"
  31   listen_type "url"
  32   environment "FASTLY_API_TOKEN" => tokens["fastly"]
  33 end
  34
  35 package %w[
  36   prometheus
  37   prometheus-alertmanager
  38 ]
  39
  40 promscale_version = "0.6.1"
  41
  42 database_version = node[:timescaledb][:database_version]
  43 database_cluster = "#{database_version}/main"
  44
  45 postgresql_user "prometheus" do
  46   cluster database_cluster
  47   superuser true
  48 end
  49
  50 postgresql_database "promscale" do
  51   cluster database_cluster
  52   owner "prometheus"
  53 end
  54
  55 directory "/opt/promscale" do
  56   owner "root"
  57   group "root"
  58   mode "755"
  59 end
  60
  61 cookbook_file "/usr/lib/postgresql/#{database_version}/lib/promscale.so" do
  62   source "postgresql-#{database_version}-promscale.so"
  63   owner "root"
  64   group "root"
  65   mode "644"
  66 end
  67
  68 directory "/opt/promscale/bin" do
  69   owner "root"
  70   group "root"
  71   mode "755"
  72 end
  73
  74 remote_file "/opt/promscale/bin/promscale" do
  75   action :create
  76   source "https://github.com/timescale/promscale/releases/download/#{promscale_version}/promscale_#{promscale_version}_Linux_x86_64"
  77   owner "root"
  78   group "root"
  79   mode "755"
  80 end
  81
  82 systemd_service "promscale" do
  83   description "Promscale Connector"
  84   type "simple"
  85   user "prometheus"
  86   exec_start "/opt/promscale/bin/promscale --db-uri postgresql:///promscale?host=/run/postgresql&port=5432 --db-connections-max 400"
  87   # exec_start lazy { "/opt/promscale/bin/promscale --db-host /run/postgresql --db-port #{node[:postgresql][:clusters][database_cluster][:port]} --db-user prometheus --db-name promscale --db-max-connections 400" }
  88   limit_nofile 16384
  89   private_tmp true
  90   protect_system "strict"
  91   protect_home true
  92   no_new_privileges true
  93 end
  94
  95 service "promscale" do
  96   action [:enable, :start]
  97   subscribes :restart, "remote_file[/opt/promscale/bin/promscale]"
  98   subscribes :restart, "systemd_service[promscale]"
  99 end
 100
 101 systemd_service "promscale-maintenance" do
 102   description "Promscale Maintenance"
 103   type "simple"
 104   user "prometheus"
 105   exec_start "/usr/bin/psql --command='CALL prom_api.execute_maintenance()' promscale"
 106   private_tmp true
 107   protect_system "strict"
 108   protect_home true
 109   no_new_privileges true
 110 end
 111
 112 systemd_timer "promscale-maintenance" do
 113   description "Promscale Maintenace"
 114   on_active_sec 1800
 115   on_unit_inactive_sec 1800
 116 end
 117
 118 service "promscale-maintenance.timer" do
 119   action [:enable, :start]
 120 end
 121
 122 search(:node, "roles:gateway") do |gateway|
 123   allowed_ips = gateway.interfaces(:role => :internal).map do |interface|
 124     "#{interface[:network]}/#{interface[:prefix]}"
 125   end
 126
 127   node.default[:networking][:wireguard][:peers] << {
 128     :public_key => gateway[:networking][:wireguard][:public_key],
 129     :allowed_ips => allowed_ips,
 130     :endpoint => "#{gateway.name}:51820"
 131   }
 132 end
 133
 134 jobs = {}
 135 snmp_targets = []
 136
 137 search(:node, "recipes:prometheus\\:\\:default").sort_by(&:name).each do |client|
 138   if client[:prometheus][:mode] == "wireguard"
 139     node.default[:networking][:wireguard][:peers] << {
 140       :public_key => client[:networking][:wireguard][:public_key],
 141       :allowed_ips => client[:networking][:wireguard][:address],
 142       :endpoint => "#{client.name}:51820"
 143     }
 144   end
 145
 146   client[:prometheus][:exporters].each do |key, exporter|
 147     if exporter.is_a?(Hash)
 148       name = exporter[:name]
 149       address = exporter[:address]
 150       metric_relabel = exporter[:metric_relabel] || []
 151     else
 152       name = key
 153       address = exporter
 154       metric_relabel = []
 155     end
 156
 157     jobs[name] ||= []
 158     jobs[name] << {
 159       :address => address,
 160       :instance => client.name.split(".").first,
 161       :metric_relabel => metric_relabel
 162     }
 163   end
 164
 165   Hash(client[:prometheus][:snmp]).each do |instance, details|
 166     snmp_targets << {
 167       :instance => instance,
 168       :target => details[:address],
 169       :module => details[:module],
 170       :address => client[:prometheus][:addresses]["snmp"],
 171       :labels => Array(details[:labels])
 172     }
 173   end
 174 end
 175
 176 certificates = search(:node, "letsencrypt:certificates").each_with_object({}) do |n, c|
 177   n[:letsencrypt][:certificates].each do |name, details|
 178     c[name] ||= details.merge(:nodes => [])
 179
 180     c[name][:nodes] << {
 181       :name => n[:fqdn],
 182       :address => n.external_ipaddress || n.internal_ipaddress
 183     }
 184   end
 185 end
 186
 187 template "/etc/prometheus/ssl.yml" do
 188   source "ssl.yml.erb"
 189   owner "root"
 190   group "root"
 191   mode "644"
 192   variables :certificates => certificates
 193 end
 194
 195 prometheus_exporter "ssl" do
 196   address "127.0.0.1"
 197   port 9219
 198   options "--config.file=/etc/prometheus/ssl.yml"
 199   register_target false
 200 end
 201
 202 template "/etc/default/prometheus" do
 203   source "default.prometheus.erb"
 204   owner "root"
 205   group "root"
 206   mode "644"
 207 end
 208
 209 template "/etc/prometheus/prometheus.yml" do
 210   source "prometheus.yml.erb"
 211   owner "root"
 212   group "root"
 213   mode "644"
 214   variables :jobs => jobs, :snmp_targets => snmp_targets, :certificates => certificates
 215 end
 216
 217 template "/etc/prometheus/alert_rules.yml" do
 218   source "alert_rules.yml.erb"
 219   owner "root"
 220   group "root"
 221   mode "644"
 222 end
 223
 224 service "prometheus" do
 225   action [:enable, :start]
 226   subscribes :restart, "template[/etc/default/prometheus]"
 227   subscribes :reload, "template[/etc/prometheus/prometheus.yml]"
 228   subscribes :reload, "template[/etc/prometheus/alert_rules.yml]"
 229 end
 230
 231 template "/etc/default/prometheus-alertmanager" do
 232   source "default.alertmanager.erb"
 233   owner "root"
 234   group "root"
 235   mode "644"
 236 end
 237
 238 template "/etc/prometheus/alertmanager.yml" do
 239   source "alertmanager.yml.erb"
 240   owner "root"
 241   group "root"
 242   mode "644"
 243 end
 244
 245 service "prometheus-alertmanager" do
 246   action [:enable, :start]
 247   subscribes :restart, "template[/etc/default/prometheus-alertmanager]"
 248   subscribes :reload, "template[/etc/prometheus/alertmanager.yml]"
 249 end
 250
 251 template "/etc/prometheus/amtool.yml" do
 252   source "amtool.yml.erb"
 253   owner "root"
 254   group "root"
 255   mode "644"
 256 end
 257
 258 package "grafana-enterprise"
 259
 260 template "/etc/grafana/grafana.ini" do
 261   source "grafana.ini.erb"
 262   owner "root"
 263   group "grafana"
 264   mode "640"
 265   variables :passwords => passwords
 266 end
 267
 268 service "grafana-server" do
 269   action [:enable, :start]
 270   subscribes :restart, "template[/etc/grafana/grafana.ini]"
 271 end
 272
 273 apache_module "alias"
 274 apache_module "proxy_http"
 275
 276 ssl_certificate "prometheus.openstreetmap.org" do
 277   domains ["prometheus.openstreetmap.org", "prometheus.osm.org"]
 278   notifies :reload, "service[apache2]"
 279 end
 280
 281 apache_site "prometheus.openstreetmap.org" do
 282   template "apache.erb"
 283 end
 284
 285 template "/etc/cron.daily/prometheus-backup" do
 286   source "backup.cron.erb"
 287   owner "root"
 288   group "root"
 289   mode "750"
 290 end