基于Prometheus和Grafana的监控平台 - 运维告警

经过前面几篇文章咱们搭建好了监控环境而且监控了服务器、数据库、应用，运维人员能够实时了解当前被监控对象的运行状况，可是他们不可能时时坐在电脑边上盯着DashBoard，这就须要一个告警功能，当服务器或应用指标异常时发送告警，经过邮件或者短信的形式告诉运维人员及时处理。

今天咱们就来聊聊 基于Prometheus和Grafana的监控平台的异常告警功能。

告警方式

Grafana

新版本的Grafana已经提供了告警配置，直接在dashboard监控panel中设置告警便可，可是我用事后发现其实并不灵活，不支持变量，并且好多下载的图表没法使用告警，因此咱们不选择使用Grafana告警，而使用Alertmanager。

### Alertmanager复制代码

相比于Grafana的图形化界面，Alertmanager须要依靠配置文件实现，配置稍显繁琐，可是胜在功能强大灵活。接下来咱们就一步一步实现告警通知。

告警类型

Alertmanager告警主要使用如下两种：

• 邮件接收器 email_config
• Webhook接收器 webhook_config，会用post形式向配置的url地址发送以下格式的参数。

{
    "version": "2",
    "status": "<resolved|firing>",
    "alerts": [{
            "labels":  < object > ,
            "annotations":  < object > ,
            "startsAt": "<rfc3339>",
            "endsAt": "<rfc3339>"
            }]
    }复制代码

此次主要使用邮件的方式进行告警。

实现步骤

• 下载
  从GitHub上下载最新版本的Alertmanager,将其上传解压到服务器上。
  tar -zxvf alertmanager-0.19.0.linux-amd64.tar.gz
  
  • 配置Alertmanager

vi alertmanager.yml
global:
  resolve_timeout: 5m
  smtp_smarthost: 'mail.163.com:25' #邮箱发送端口
  smtp_from: 'xxx@163.com'
  smtp_auth_username: 'xxx@163.com' #邮箱帐号
  smtp_auth_password: 'xxxxxx' #邮箱密码
  smtp_require_tls: false
route:
  group_by: ['alertname']
  group_wait: 10s  # 最初即第一次等待多久时间发送一组警报的通知
  group_interval: 10s # 在发送新警报前的等待时间
  repeat_interval: 1h # 发送重复警报的周期 对于email配置中，此项不能够设置太低，不然将会因为邮件发送太多频繁，被smtp服务器拒绝
  receiver: 'email'
receivers:
  - name: 'email'
    email_configs:
    - to: 'xxx@xxx.com'复制代码

修改完成后可使用 ./amtool check-config alertmanager.yml校验文件是否正确。

校验正确启动alertmanager。`nohup ./alertmanager &`。（第一次启动能够不使用nohup静默启动，方便后面查看日志）复制代码

咱们只定义了一个路由，那就意味着全部由Prometheus产生的告警在发送到Alertmanager以后都会经过名为`email`的receiver接收。实际上，对于不一样级别的告警，会有不一样的处理方式，所以在route中，咱们还能够定义更多的子Route。具体配置规则你们能够去百度进一步了解。复制代码

• 配置Prometheus
  在Prometheus安装目录下创建rules文件夹，放置全部的告警规则文件。

alerting:
        alertmanagers:
        - static_configs:
            - targets: ['192.168.249.131:9093']

    rule_files:
        - rules/*.yml复制代码

在rules文件夹下创建告警规则文件service_down.yml,当服务器下线时发送邮件。

groups:
  - name: ServiceStatus
    rules:
      - alert: ServiceStatusAlert
        expr: up == 0  
        for: 2m 
        labels:
          team: node
        annotations:
          summary: "Instance {{ $labels.instance }} has bean down"
          description: "{{ $labels.instance }} of job {{ $labels.job }} has been down for more than 2 minutes."
          value: "{{ $value }}"复制代码

**配置详解**  
alert：告警规则的名称。  
expr：基于PromQL表达式告警触发条件，用于计算是否有时间序列知足该条件。  
for：评估等待时间，可选参数。用于表示只有当触发条件持续一段时间后才发送告警。在等待期间新产生告警的状态为PENDING，等待期后为FIRING。  
labels：自定义标签，容许用户指定要附加到告警上的一组附加标签。  
annotations：用于指定一组附加信息，好比用于描述告警详细信息的文字等，annotations的内容在告警产生时会一同做为参数发送到Alertmanager。复制代码

配置完成后重启Prometheus，访问Prometheus查看告警配置。
![file](https://user-gold-cdn.xitu.io/2019/10/27/16e0c617a25fa836?w=800&h=90&f=jpeg&s=8868)复制代码

• 测试

关闭node_exporter,过2分钟就能够收到告警邮件啦，截图以下：

Alertmanager的告警内容支持使用模板配置，可使用好看的模板进行渲染，感兴趣的能够试试！
复制代码

The More

node exporter的一些计算语句

• CPU使用率(单位为percent)
  (avg by (instance) (irate(node_cpu_seconds_total{mode="idle"}[5m])) * 100)
• 内存已使用(单位为bytes)
  node_memory_MemTotal_bytes - node_memory_MemFree_bytes - node_memory_Cached_bytes - node_memory_Buffers_bytes - node_memory_Slab_bytes
• 内存使用量(单位为bytes/sec)
  node_memory_MemTotal_bytes - node_memory_MemFree_bytes - node_memory_Cached_bytes - node_memory_Buffers_bytes - node_memory_Slab_bytes
• 内存使用率(单位为percent)
  ((node_memory_MemTotal_bytes - node_memory_MemFree_bytes - node_memory_Cached_bytes - node_memory_Buffers_bytes - node_memory_Slab_bytes)/node_memory_MemTotal_bytes) * 100
• server1的内存使用率(单位为percent)
  ((node_memory_MemTotal_bytes{instance="server1"} - node_memory_MemAvailable_bytes{instance="server1"})/node_memory_MemTotal_bytes{instance="server1"}) * 100
• server2的磁盘使用率(单位为percent)
  ((node_filesystem_size_bytes{fstype=~"xfs|ext4",instance="server2"} - node_filesystem_free_bytes{fstype=~"xfs|ext4",instance="server2"}) / node_filesystem_size_bytes{fstype=~"xfs|ext4",instance="server2"}) * 100
• uptime时间(单位为seconds)
  time() - node_boot_time
• server1的uptime时间(单位为seconds)
  time() - node_boot_time_seconds{instance="server1"}
• 网络流出量(单位为bytes/sec)
  irate(node_network_transmit_bytes_total{device!~"lo|bond[0-9]|cbr[0-9]|veth.*"}[5m]) > 0
• server1的网络流出量(单位为bytes/sec)
  irate(node_network_transmit_bytes_total{instance="server1", device!~"lo|bond[0-9]|cbr[0-9]|veth.*"}[5m]) > 0
• 网络流入量(单位为bytes/sec)
  irate(node_network_receive_bytes_total{device!~"lo|bond[0-9]|cbr[0-9]|veth.*"}[5m]) > 0
• server1的网络流入量(单位为bytes/sec)
  irate(node_network_receive_bytes_total{instance="server1", device!~"lo|bond[0-9]|cbr[0-9]|veth.*"}[5m]) > 0
• 磁盘读取速度(单位为bytes/sec)
  irate(node_disk_read_bytes_total{device=~"sd.*"}[5m])

获取更多内容请关注公众号：JAVA日知录