Nginx+Keepalived实现高可用站点

Keepalived是一个基于VRRP协议来实现的服务高可用方案，能够利用其来避免IP单点故障，相似的工具还有heartbeat、 corosync、pacemaker。可是它通常不会单独出现，而是与其它负载均衡技术（如lvs、haproxy、nginx）一块儿工做来达到集群的 高可用。

VRRP协议

VRRP全称 Virtual Router Redundancy Protocol，即虚拟路由冗余协议。 能够认为它是实现路由器高可用的容错协议，即将N台提供相同功能的路由器组成一个路由器组(Router Group)，这个组里面有一个master和多个backup，但在外界看来就像一台同样，构成虚拟路由器，拥有一个虚拟IP（vip，也就是路由器所 在局域网内其余机器的默认路由），占有这个IP的master实际负责ARP相应和转发IP数据包，组中的其它路由器做为备份的角色处于待命状态。 master会发组播消息，当backup在超时时间内收不到vrrp包时就认为master宕掉了，这时就须要根据VRRP的优先级来选举一个 backup当master，保证路由器的高可用。

在VRRP协议实现里，虚拟路由器使用 00-00-5E-00-01-XX 做为虚拟MAC地址，XX就是惟一的 VRID （Virtual Router IDentifier），这个地址同一时间只有一个物理路由器占用。在虚拟路由器里面的物理路由器组里面经过多播IP地址 224.0.0.18 来定时发送通告消息。每一个Router都有一个 1-255 之间的优先级别，级别最高的（highest priority）将成为主控（master）路由器。经过下降master的优先权可让处于backup状态的路由器抢占（pro-empt）主路由 器的状态，两个backup优先级相同的IP地址较大者为master，接管虚拟IP。

Keepalived + Nginx

安装依赖环境

 sudo apt-get install  libssl-dev
 sudo apt-get install  openssl
 sudo apt-get install  libpopt-dev

安装Keepalived

apt-get install keepalived

Keepalived.conf配置文件

keepalived 会读取 /etc/keepalived/keepalived.conf

vi /etc/keppalived/keepalived.conf

MASTER配置文件信息

! Configuration File for keepalived
global_defs {
    notification_email {
        test@example.com
    }
    notification_email_from test@example.com
    smtp_server smtp.example.com
    smtp_connect_timeout 30
    router_id LVS_DEVEL
}
vrrp_script check_nginx {
    script "/etc/keepalived/check_nginx.sh" 
    interval 2 
    weight -5 
    fall 3  
    rise 2 
}
vrrp_instance VI_1 {
    state MASTER
    interface eth0
    mcast_src_ip 192.168.241.32
    virtual_router_id 51
    priority 101
    advert_int 2
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    virtual_ipaddress {
        192.168.241.200
    }
    track_script {
       check_nginx 
    }
}

BACKUP配置文件信息

#只须要改变将主机配置中的3项，以下：
state MASTER -> state BACKUP，
priority 101 -> priority 100，
mcast_src_ip 192.168.241.132 -> mcast_src_ip 192.168.241.133

check_nginx.sh脚本文件

#!/bin/bash
counter=$(ps -C nginx --no-heading|wc -l)
if [ "${counter}" = "0" ] then
    /usr/local/nginx/sbin/nginx -c /usr/local/nginx/conf/nginx.conf
    sleep 2
    counter=$(ps -C nginx --no-heading|wc -l)
    if [ "${counter}" = "0" ] then
        killall keepalived
    fi
fi

注意：脚本须要添加设置权限，须要执行 chmod +x check_nginx.sh

启动Keepalived

service keepalived  restart/stop/start    重启/中止/启动

测试Keepalived

务都起来以后，在MASTER和BACKUP上分别指向以下命令：

ip  a

或指定网卡

ip  a|grep ens33 

备注：就会看到虚拟ip在MASTER上绑定了，而后停掉主机的nginx（# killall nginx），若是nginx没有故障，keepalived就会尝试从新启动nginx服务。若是nginx发生故障，没法从新启动，那么就会自动切换到备机上，若是在用192.168.0.222访问的话，就会访问到BACKUP的页面（用# ip a  命令查看，虚拟ip绑定在BACKUP上）

配置选项说明

global_defs

• notification_email ： keepalived在发生诸如切换操做时须要发送email通知地址，后面的 smtp_server 相比也都知道是邮件服务器地址。也能够经过其它方式报警，毕竟邮件不是实时通知的。
• router_id ： 机器标识，一般可设为hostname。故障发生时，邮件通知会用到

vrrp_instance

• state ： 指定instance(Initial)的初始状态，就是说在配置好后，这台服务器的初始状态就是这里指定的，但这里指定的不算，仍是得要经过竞选经过优 先级来肯定。若是这里设置为MASTER，但如若他的优先级不及另一台，那么这台在发送通告时，会发送本身的优先级，另一台发现优先级不如本身的高， 那么他会就回抢占为MASTER
• interface ： 实例绑定的网卡，由于在配置虚拟IP的时候必须是在已有的网卡上添加的
• mcast_src_ip ： 发送多播数据包时的源IP地址，这里注意了，这里实际上就是在那个地址上发送VRRP通告，这个很是重要，必定要选择稳定的网卡端口来发送，这里至关于 heartbeat的心跳端口，若是没有设置那么就用默认的绑定的网卡的IP，也就是interface指定的IP地址
• virtual_router_id ： 这里设置VRID，这里很是重要，相同的VRID为一个组，他将决定多播的MAC地址
• priority ： 设置本节点的优先级，优先级高的为master
• advert_int ： 检查间隔，默认为1秒。这就是VRRP的定时器，MASTER每隔这样一个时间间隔，就会发送一个advertisement报文以通知组内其余路由器本身工做正常
• authentication ： 定义认证方式和密码，主从必须同样
• virtual_ipaddress ： 这里设置的就是VIP，也就是虚拟IP地址，他随着state的变化而增长删除，当state为master的时候就添加，当state为backup的时候删除，这里主要是有优先级来决定的，和state设置的值没有多大关系，这里能够设置多个IP地址
• track_script ： 引用VRRP脚本，即在 vrrp_script 部分指定的名字。按期运行它们来改变优先级，并最终引起主备切换。

vrrp_script
告诉 keepalived 在什么状况下切换，因此尤其重要。能够有多个 vrrp_script

• script ： 本身写的检测脚本。也能够是一行命令如killall -0 nginx
• interval 2 ： 每2s检测一次
• weight -5 ： 检测失败（脚本返回非0）则优先级 -5
• fall 2 ： 检测连续 2 次失败才算肯定是真失败。会用weight减小优先级（1-255之间）
• rise 1 ： 检测 1 次成功就算成功。但不修改优先级

这里要提示一下script通常有2种写法：

1. 经过脚本执行的返回结果，改变优先级，keepalived继续发送通告消息，backup比较优先级再决定
2. 脚本里面检测到异常，直接关闭keepalived进程，backup机器接收不到advertisement会抢占IP

上文 vrrp_script 配置部分，killall -0 nginx属于第1种状况，/etc/keepalived/check_nginx.sh属于第2种状况（脚本中关闭keepalived）。我的更倾向于经过shell脚本判断，但有异常时exit 1，正常退出exit 0，而后keepalived根据动态调整的 vrrp_instance 优先级选举决定是否抢占VIP：

• 若是脚本执行结果为0，而且weight配置的值大于0，则优先级相应的增长
• 若是脚本执行结果非0，而且weight配置的值小于0，则优先级相应的减小

其余状况，本来配置的优先级不变，即配置文件中priority对应的值。

提示：

1. 优先级不会不断的提升或者下降
2. 能够编写多个检测脚本并为每一个检测脚本设置不一样的weight（在配置中列出就行）
3. 无论提升优先级仍是下降优先级，最终优先级的范围是在[1,254]，不会出现优先级小于等于0或者优先级大于等于255的状况
4. 在MASTER节点的 vrrp_instance 中 配置 nopreempt ，当它异常恢复后，即便它 prio 更高也不会抢占，这样能够避免正常状况下作无谓的切换

以上能够作到利用脚本检测业务进程的状态，并动态调整优先级从而实现主备切换。

配置结束

在默认的keepalive.conf里面还有 virtual_server,real_server 这样的配置，咱们这用不到，它是为lvs准备的。 notify 能够定义在切换成MASTER或BACKUP时执行的脚本，若有需求请自行google。