36 shell-告警系统

1.需求及思路
需求：使用shell定制各类个性化告警工具，但须要统一化管理、规范化管理。
思路：指定一个脚本包，包含主程序、子程序、配置文件、邮件引擎、输出日志等。
主程序：做为整个脚本的入口，是整个系统的命脉。
配置文件：是一个控制中心，用它来开关各个子程序，指定各个相关联的日志文件。
子程序：这个才是真正的监控脚本，用来监控各个指标。
邮件引擎：是由一个python程序来实现，它能够定义发邮件的服务器、发邮件人以及发件人密码
输出日志：整个监控系统要有日志输出。

bin下是主程序
conf下是配置文件
shares下是各个监控脚本
mail下是邮件引擎
log下是日志
2.main.sh

#!/bin/bash
#是否发送邮件的开关
export send=1 //export意味着send变量在其子脚本有效
#过滤ip地址，为了告知发邮件的ip
export addr=`/sbin/ifconfig |grep -A1 "ens33: "|awk '/inet/ {print $2}'`
dir=`pwd`
#只须要最后一级目录名
last_dir=`echo $dir|awk -F'/' '{print $NF}'`
#下面的判断目的是，保证执行脚本的时候，咱们在bin目录里，否则监控脚本、邮件和日志颇有可能找不到
if [ $last_dir == "bin" ] || [ $last_dir == "bin/" ]; then //保证当前目录在bin，由于下面执行脚本的时候会用到相对路径
    conf_file="../conf/mon.conf"
else
    echo "you shoud cd bin dir"
    exit
fi
exec 1>>../log/mon.log 2>>../log/err.log //日志信息的输出
echo "`date +"%F %T"` load average"
/bin/bash ../shares/load.sh
#先检查配置文件中是否须要监控502
if grep -q 'to_mon_502=1' $conf_file; then  //配置文件中502为1，则声明日志路径及执行502.sh监控脚本
    export log=`grep 'logfile=' $conf_file |awk -F '=' '{print $2}' |sed 's/ //g'`
    /bin/bash  ../shares/502.sh
fi

3.mon.conf

##to config the options if to monitor
##定义mysql的服务器地址、端口以及user、password
to_mon_cdb=0   ##0 or 1, default 0,0 not monitor, 1 monitor
db_ip=10.20.3.13
db_port=3315
db_user=username
db_pass=passwd
##httpd   若是是1则监控，为0不监控
to_mon_httpd=0
##php 若是是1则监控，为0不监控
to_mon_php_socket=0
##http_code_502  须要定义访问日志的路径
to_mon_502=1
logfile=/data/log/xxx.xxx.com/access.log
##request_count   定义日志路径以及域名
to_mon_request_count=0
req_log=/data/log/www.discuz.net/access.log
domainname=www.discuz.net
##to config the options if to monitor
##定义mysql的服务器地址、端口以及user、password
to_mon_cdb=0   ##0 or 1, default 0,0 not monitor, 1 monitor
db_ip=10.20.3.13
db_port=3315
db_user=username
db_pass=passwd
##httpd   若是是1则监控，为0不监控
to_mon_httpd=0
##php 若是是1则监控，为0不监控
to_mon_php_socket=0
##http_code_502  须要定义访问日志的路径
to_mon_502=1
logfile=/data/log/xxx.xxx.com/access.log
##request_count   定义日志路径以及域名
to_mon_request_count=0
req_log=/data/log/www.discuz.net/access.log
domainname=www.discuz.net

配置文件中定义的各个日志的路径也可用在各须要的子脚本中定义，可是机器多的时候路径不同，修改起来很繁琐，所以放在一块儿方便。

4.load.sh

#! /bin/bash
load=`uptime |awk -F 'average:' '{print $2}'|cut -d',' -f1|sed 's/ //g' |cut -d. -f1`  //系统负载取整数
if [ $load -gt 10 ] && [ $send -eq "1" ]  //若是系统负载大于10且主脚本中声明要发邮件
then
    echo "$addr `date +%T` load is $load" >../log/load.tmp
    /bin/bash ../mail/mail.sh xxxxx@163.com "$addr\_load:$load" `cat ../log/load.tmp`
fi
echo "`date +%T` load is $load"  //这部分输出到主脚本定义的路径中

5.502.sh

#! /bin/bash
d=`date -d "-1 min" +%H:%M`
c_502=`grep :$d:  $log  |grep ' 502 '|wc -l`  //502的信息须要在日志中找 
if [ $c_502 -gt 10 ] && [ $send == 1 ]; then
     echo "$addr $d 502 count is $c_502">../log/502.tmp
     /bin/bash ../mail/mail.sh $addr\_502 $c_502  ../log/502.tmp
fi
echo "`date +%T` 502 $c_502"

6.disk.sh

#! /bin/bash
rm -f ../log/disk.tmp
for r in `df -h |awk -F '[ %]+' '{print $5}'|grep -v Use` //F后表示能够用空格和%做为分隔符，方框后的+号表示分隔符能够重复多个；grep -v表示取反，Use表示df -h出现的表头，前提是系统语言为英语，保险起见能够在前一句定义语言为英语
do
    if [ $r -gt 90 ] && [ $send -eq "1" ]
then
    echo "$addr `date +%T` disk useage is $r" >>../log/disk.tmp
fi
if [ -f ../log/disk.tmp ]
then
    df -h >> ../log/disk.tmp
    /bin/bash ../mail/mail.sh $addr\_disk $r ../log/disk.tmp
    echo "`date +%T` disk useage is nook"
else
    echo "`date +%T` disk useage is ok"
fi

7.告警系统引擎
mail.sh（作告警收敛，不是随时发邮件，问题能及时恢复不须要发邮件，问题积累到必定程度发邮件）内容 //其中mail.py内容到这里下载https://coding.net/u/aminglinux/p/aminglinux-book/git/blob/master/D22Z/mail.py

log=$1  //定义变量log为参数1
t_s=`date +%s`  //当前时间戳
t_s2=`date -d "2 hours ago" +%s`  //两小时前时间戳
if [ ! -f /tmp/$log ]   //若是文件不存在，则建立并将t_s2 echo到文件内容
then
    echo $t_s2 > /tmp/$log
fi
t_s2=`tail -1 /tmp/$log|awk '{print $1}'`  //赋值最后一行给t_s2，第一次运行意味着此值跟上面的t_s2同样
echo $t_s>>/tmp/$log  //追加当前时间戳到最后一行，意味着上一行的赋值把此值（上一次运行的）给t_s2
v=$[$t_s-$t_s2]  //上次的时间戳和此次的时间戳差值
echo $v
if [ $v -gt 3600 ]  //两次出现异常的时间差大于一小时，意即没有问题（平稳运行）已经一小时以上，则发邮件；且生成新文件并echo “0”计数
then
    ./mail.py  $1  $2  $3
    echo "0" > /tmp/$log.txt
else  //时间差小于一小时（问题出现得较为频繁），则计数暂时不发邮件
    if [ ! -f /tmp/$log.txt ]
    then
        echo "0" > /tmp/$log.txt
    fi
    nu=`cat /tmp/$log.txt` //读取文件中的数字
    nu2=$[$nu+1]  //数字加一
    echo $nu2>/tmp/$log.txt  //从新定向到文件
    if [ $nu2 -gt 10 ]  //计数大于十（即频繁问题出现十次以上）则发邮件，并清零计数文件
    then
         ./mail.py  $1 "trouble continue 10 min $2" "$3"
         echo "0" > /tmp/$log.txt
    fi
fi  

最后加上任务计划：
* * * * * cd /usr/local/sbin/mon/bin; /bin/bash main.sh