Использование Prometheus + Alertmanager + Node Exporter для мониторинга geo-распределенной инфраструктуры компании

Компания Hostkey предоставляет серверы в аренду — это накладывает на нас, сотрудников компании, обязательства по контролю качества работы оборудования. Одним из ключевых элементов поддержания большой инфраструктуры является эффективная система мониторинга, позволяющая оперативно выявлять сбои в работе серверов. Мы хотим поделиться нашим опытом внедрения и использования различных инструментов, позволяющих отслеживать работу оборудования.

В этой статье мы кратко рассмотрим варианты установки федерации Prometheus, Alertmanager и Node Exporter, остановимся на некоторых особенностях и конфигурации. Можно использовать установку из docker-compose файла или же развернуть систему в Kubernetes-кластере. Наша задача — собирать метрики серверов и сервисов инфраструктуры компании, хранить их, реагировать на алерты. Для решения этих задач необходима база данных.

Мы выбрали Prometheus по ряду причин: 

• это популярный инструмент с обширной документацией и большим сообществом;

• открытый исходный код, написанный на Golang;

• совместим c Docker и т. д.

Prometheus представляет собой систему мониторинга систем и служб. Он собирает метрики от настроенных целей через заданные временные интервалы, оценивает выражения правил, отображает результаты и может запускать оповещения при соблюдении определенных условий. Для установки всех компонентов системы мы используем ansible-playbook. 

Одной из особенности нашей компании является geo-распределенная инфраструктура: HOSTKEY располагает оборудованием в нескольких ЦОДах в Москве, Амстердаме и Нью-Йорке. Иерархическая федерация позволяет серверу Prometheus собирать выбранные временные ряды с другого сервера Prometheus, а также масштабироваться до сред с множеством центров обработки данных и узлов. В этом случае топология федерации напоминает дерево, где серверы Prometheus более высокого уровня собирают агрегированные данные временных рядов с большего числа подчиненных серверов.

Пример конфигурации с объединения метрики с одного сервера на другой:

scrape_configs:   - job_name: 'federate'     scrape_interval: 15s      honor_labels: true     metrics_path: '/federate'      params:       'match[]':         - '{job="prometheus"}'         - '{__name__=~"job:.*"}'      static_configs:       - targets:         - 'ru-<instance_address>:9090'         - 'nl-<instance_address>:9090'         - 'us-<instance_address>:9090'

В качестве источника базовых метрик для Prometheus используется Node Exporter — http-приложение, собирающее метрики операционной системы.

Prometheus собирает данные с одного или нескольких экземпляров Node Exporter (о том, как написать собственный экспортер, расскажем в следующих статьях). Node Exporter должен быть установлен на каждом хосте. 

После запуска метрики доступны на 9100 порту:

Чтобы метрика попала в базу Prometheus, необходимо описать конфигурацию в файле:
ru-federation-app01a / # vim /etc/prometheus/prometheus.yml

 - job_name: 'infra.hostkey'     static_configs:       - targets:         - <instance_address>:9100         - <instance_address>:9100         - <instance_address>:9100

Файл должен быть в формате .yaml (управление конфигурацией мы рассмотрим в следующих статьях).

После рестарта сервиса Prometheus можно открыть его пользовательский интерфейс в браузере «<server_address>:9090». На странице «/targets» отображается статус систем, с которых вы получаете метрики.

Визуализация

Grafana — фронтенд к различным time series db: Graphite, InfluxDB, Prometheus — с красивыми и понятными графиками, а самое главное — с множеством шаблонов, подходящих для 90% возможных задач. Формат .json позволяет легко дорабатывать графики. Для удобства проксируем порт Grafana через nginx и подключаем ldap-авторизацию.

Почти все значения Node Exporter по умолчанию представлены в виде графика. Импортируем дашборд: 

Отображение алертов

Создаем конфигурацию правил алертов <instance_address>.yml.

По сути, можно управлять алертингом любого параметра, доступного в node_exporter:

groups: - name: <instance_address>   rules:   - alert: InstanceDown     expr: up{job="<instance_address>"} == 0     for: 5m     labels:       severity: page     annotations:       summary: "Instance {{ .instance }} down"       description: "{{ .instance }} of job {{ .job }} has been down for more than 5 minutes."  #==========CPU==================================================================   - alert: NodeCPUUsage     expr: (100 - (irate(node_cpu{mode="idle", job="<instance_address>"}[5m]) * 100)) > 50     for: 2m     labels:       severity: page     annotations:       summary: High CPU usage detected CPU usage is above 75% # ==============Memory==========================================================   - alert: NodeSwapUsageSwap     expr: (((node_memory_SwapTotal-node_memory_SwapFree{job="<instance_address>"})/node_memory_SwapTotal{job="<instance_address>"})*100) > 30     for: 2m      labels:       severity: page     annotations:       summary: Swap usage detected Swap usage usage is above 50%   - alert: NodeMemoryUsageMemFree     expr: (((node_memory_MemTotal-node_memory_MemFree-node_memory_Cached{job="<instance_address>"})/(node_memory_MemTotal{job="<instance_address>"})*100)) > 30     for: 2m     labels:       severity: page     annotations:       summary: High memory usage detected, Memory usage is above 50% #==============Load=============================================================    - alert: nodeLoad1     expr: node_load1{job="<instance_address>"} > 0.7     for: 1m     labels:       severity: page     annotations:       summary: Load #================Dis space Used ================================================   - alert: diskSpaceUsed     expr: (100.0 - 100 * (node_filesystem_avail{job="<instance_address>"} / node_filesystem_size{job="<instance_address>"})) > 80     for: 10m     labels:       severity: page     annotations:       summary: Disk space userd 80 #=============nodeContrack========================================   - alert: nodeContrack     expr: node_nf_conntrack_entries{job="<instance_address>"} > 200     for: 10m     labels:       severity: page     annotations:       summary: nodeContrack #=============nodeCntextSwitches ========================================   - alert: nodeCntextSwitches     expr: irate(node_context_switches{job="<instance_address>"}[5m]) > 100     for: 5m     labels:       severity: page     annotations:       summary: nodeCntextSwitches #=============Disk Utilization per Device ========================================   - alert: DiskUtilizationPerDevice     expr: irate(node_disk_io_time_ms{job="<instance_address>"}[5m])/10 > 0.2     for: 5m     labels:       severity: page     annotations:       summary: DiskUtilizationPerDevice #============Disk IOs per Device ========================================   - alert: DiskIOsPerDeviceRead     expr: irate(node_disk_reads_completed{job="<instance_address>"}[5m]) >10     for: 5m     labels:       severity: page     annotations:       summary: DiskIOsPerDevice    - alert: DiskIOsPerDeviceWrite     expr: irate(node_disk_writes_completed{job="<instance_address>"}[5m]) > 10     for: 5m     labels:       severity: page     annotations:       summary: DiskIOsPerDevice #===========Disk Throughput per Device========================================   - alert: DiskThroughputPerDeviceReads     expr: irate(node_disk_sectors_read{job="<instance_address>"}[5m]) * 512 >10000000     for: 5m     labels:       severity: page     annotations:       summary: DiskIOsPerDevice   - alert: DiskThroughputPerDeviceWrites     expr: irate(node_disk_sectors_written{job="<instance_address>u"}[5m]) * 512 > 10000000     for: 5m     labels:       severity: page     annotations:       summary: DiskIOsPerDevice #===========Network Traffic========================================   - alert: NetworkTrafficReceive     expr: irate(node_network_receive_bytes{job="<instance_address>"}[5m])*8 > 5000     for: 5m     labels:       severity: page     annotations:       summary: NetworkTrafficReceive   - alert: NetworkTrafficTransmit     expr: irate(node_network_transmit_bytes{job="<instance_address>"}[5m])*8 > 5000     for: 5m     labels:       severity: page     annotations:       summary: NetworkTrafficTransmit  #===========Netstat========================================   - alert: Netstat     expr: node_netstat_Tcp_CurrEstab{job="<instance_address>"} > 20     for: 5m     labels:       severity: page     annotations:       summary: Netstat  #===========UDP Stats============================   - alert: UDPStatsInDatagrams     expr: irate(node_netstat_Udp_InDatagrams{job="<instance_address>"}[5m]) > 50     for: 5m     labels:       severity: page     annotations:       summary: UDPStats   - alert: UDPStatsInErrors     expr: irate(node_netstat_Udp_InErrors{job="<instance_address>"}[5m]) > 20     for: 5m     labels:       severity: page     annotations:       summary: UDPStats   - alert: UDPStatsOutDatagrams     expr: irate(node_netstat_Udp_OutDatagrams{job="<instance_address>"}[5m]) > 50     for: 5m     labels:       severity: page     annotations:       summary: UDPStats   - alert: UDPStatsNoPortsл     expr: irate(node_netstat_Udp_NoPorts{job="<instance_address>"}[5m]) > 20     for: 5m     labels:       severity: page     annotations:       summary: UDPStats 

Конфигурацию алерта подключаем в prometheus.yml:

rule_files:
  — «<instance_address>.yml»

Alertmanager

Перенаправить алерты можно почти в любую систему: email, Telegram, Slack, Rocket.Chat.

alerting:   alertmanagers:   - static_configs:     - targets:       - alertmamager-app01a.infra.hostkey.ru:9093

Пример для Rocket.Chat:

alertmanager-app01a ~ # vin /etc/alertmanager/alertmanager.yml  route:     repeat_interval: 5m     group_interval: 5m     receiver: 'rocketchat'  receivers:     - name: 'rocketchat'       webhook_configs:           - send_resolved: false             url: 'https://chat_address/hooks/devtest'  

Рассмотрим основное содержание конфигурационного файла:

global: route:   group_by: ['по каким параметрам группировать правила']   group_wait: "время ожидания перед отправкой уведомления для группы"   group_interval: "время отправки повторного сообщения для группы"   repeat_interval: "время до отправки повторного сообщения"   receiver: "имя способа отправки сообщений" receivers:   - name: "имя способа отправки сообщений"     конфигурация

Все алерты, поступившие в AlertManager, необходимо группировать, чтобы не отправлять информацию об одних и тех же событиях несколько раз. Директива group_by указывает, какие поля использовать во время группировки. После создания новой группы алертов к делу подключается параметр group_wait. Он указывает время ожидания перед отправкой первого сообщения. Параметр позволяет получить одним сообщением всю совокупность алертов группы, а не отдельное сообщение для каждого алерта.

Параметр group_interval указывает, сколько необходимо ждать после отправки первого сообщения для группы до отправки повторных сообщений из этой же группы. Однако не только он влияет на интервал между сообщениями, еще есть параметр repeat_interval, который указывает, через какой промежуток времени можно повторить отправку того же алерта.

Получаем:

Prometheus AlertManager

Панель инструментов для визуализации на основе одного дашборда в нашей компании используется для мониторинга дежурной сменой:

В результате мы получили рабочую систему мониторинга для geo-распределенной инфраструктуры, которую в дальнейшем адаптировали к нашей специфике (об этом опыте расскажем в следующих статьях). Гибкость настроек описанных сервисов позволяет адаптировать систему мониторинга под конкретные нужды любой компании и значительно снизить трудозатраты инженеров и иных специалистов на поддержание инфраструктуры.