33 linux集群架构

1. 简介
   根据功能划分为两大类：高可用和负载均衡
   高可用集群一般为两台服务器，一台工做，另一台做为冗余，当提供服务的机器宕机，冗余将接替继续提供服务

   负载均衡集群，须要有一台服务器做为分发器，它负责把用户的请求分发给后端的服务器处理，在这个集群里，除了分发器外，就是给用户提供服务的服务器了，这些服务器数量至少为2

2. 高可用开源软件:keepalived
   keepalived经过VRRP（Virtual Router Redundancy Protocl）来实现高可用。
   在这个协议里会将多台功能相同的路由器组成一个小组，这个小组里会有1个master角色和N（N>=1）个backup角色。
   master会经过组播的形式向各个backup发送VRRP协议的数据包，当backup收不到master发来的VRRP数据包时，就会认为master宕机了。此时就须要根据各个backup的优先级来决定谁成为新的mater。
   Keepalived要有三个模块，分别是core、check和vrrp。其中core模块为keepalived的核心，负责主进程的启动、维护以及全局配置文件的加载和解析，check模块负责健康检查，vrrp模块是来实现VRRP协议的。

   配置
   准备两台机器（ip第四段为）131和130，131做为master，130做为backup
   两台机器都执行yum install -y keepalived
   两台机器都安装nginx，其中131上已经编译安装过nginx，130上须要yum安装nginx: yum install -y nginx
   设定vip（虚拟ip，主从共用的对外的ip，主机正常时vip对应主机，主机宕机时按照此ip继续解析能够从机接上）为100，vip只能用ipadd查看，不能用ifconfig看
   vim /etc/keepalived/keepalived.conf删除原有内容，编辑131上keepalived配置文件，内容从https://coding.net/u/aminglinux/p/aminglinux-book/git/blob/master/D21Z/master_keepalived.conf 获取
   global_defs 全局参数
   notification_email 出问题时发邮件
   vrrp_script chk_nginx 检测服务是否正常，引用下面脚本
   vrrp_instance VI_1 定义master相关参数
   vim /usr/local/sbin/check_ng.sh 131编辑监控脚本，内容从https://coding.net/u/aminglinux/p/aminglinux-book/git/blob/master/D21Z/master_check_ng.sh 获取
   用处在于检测nginx服务是否启动，若没有启动且启动不了，须要关掉keepalived
   给脚本755权限
   systemctl start keepalived 131启动服务
   从上配置：
   130上编辑配置文件，内容从https://coding.net/u/aminglinux/p/aminglinux-book/git/blob/master/D21Z/backup_keepalived.conf 获取
   130上编辑监控脚本，内容从https://coding.net/u/aminglinux/p/aminglinux-book/git/blob/master/D21Z/backup_check_ng.sh 获取
   给脚本755权限
   130上也启动服务 systemctl start keepalived
   测试
   1.分别在主从上关闭nginx，因为脚本的存在，keepalived会自动启动nginx。
   2.主机增长规则iptables -I OUTPUT -p vrrp -j DROP不能达到切换资源目的，恢复之
   3.停掉主机的keepalived，此时vip切换到从上，再启动主机上的keepalived，当即恢复主机vip

3. 均衡负载开源软件:LVS
   三个模式介绍:
   a. NAT模式
   
   这种模式借助iptables的nat表来实现
   用户的请求到分发器后，经过预设的iptables规则，把请求的数据包转发到后端的rs上去
   rs须要设定网关为分发器的内网ip
   用户请求的数据包和返回给用户的数据包所有通过分发器，因此分发器成为瓶颈
   在nat模式中，只须要分发器有公网ip便可，因此比较节省公网ip资源
   b. IP Tunnel 模式
   
   这种模式，须要有一个公共的IP配置在分发器和全部rs上，咱们把它叫作vip
   客户端请求的目标IP为vip，分发器接收到请求数据包后，会对数据包作一个加工，会把目标IP改成rs的IP，这样数据包就到了rs上
   rs接收数据包后，会还原原始数据包，这样目标IP为vip，由于全部rs上配置了这个vip，因此它会认为是它本身
   c. DR 模式
   
   这种模式，也须要有一个公共的IP配置在分发器和全部rs上，也就是vip
   和IP Tunnel不一样的是，它会把数据包的MAC地址修改成rs的MAC地址
   rs接收数据包后，会还原原始数据包，这样目标IP为vip，由于全部rs上配置了这个vip，因此它会认为是它本身。

   LVS调度算法（经常使用的是前面四种）：
   轮询 Round-Robin rr
   加权轮询 Weight Round-Robin wrr
   最小链接 Least-Connection lc
   加权最小链接 Weight Least-Connection wlc
   基于局部性的最小链接 Locality-Based Least Connections lblc
   带复制的基于局部性最小链接 Locality-Based Least Connections with Replication lblcr
   目标地址散列调度 Destination Hashing dh
   源地址散列调度 Source Hashing sh

   配置
   NAT模式
   三台机器
   分发器，也叫调度器（简写为dir）
   内网：133.130，外网：142.147（vmware仅主机模式）
   rs1
   内网：133.132，设置网关为133.130
   rs2
   内网：133.133，设置网关为133.130
   检测网关命令 route -n
   三台机器上都执行执行（关防火墙）
   systemctl stop firewalld; systemc disable firewalld
   systemctl start iptables; iptables -F; service iptables save
   在dir（分发器）上安装ipvsadm（实现LVS的工具）
   yum install -y ipvsadm
   在dir上编写脚本，vim /usr/local/sbin/lvs_nat.sh//内容以下
   #! /bin/bash
   #director 服务器上开启路由转发功能
   echo 1 > /proc/sys/net/ipv4/ip_forward
   #关闭icmp的重定向
   echo 0 > /proc/sys/net/ipv4/conf/all/send_redirects
   echo 0 > /proc/sys/net/ipv4/conf/default/send_redirects
   #注意区分网卡名字，阿铭的两个网卡分别为ens33和ens37
   echo 0 > /proc/sys/net/ipv4/conf/ens33/send_redirects
   echo 0 > /proc/sys/net/ipv4/conf/ens37/send_redirects
   #director 设置nat防火墙
   iptables -t nat -F
   iptables -t nat -X
   iptables -t nat -A POSTROUTING -s 192.168.133.0/24 -j MASQUERADE //能够将源地址为网段192.168.133.0/24的修改为外网地址，达成内网rs链接外网的目的
   #director设置ipvsadm
   IPVSADM='/usr/sbin/ipvsadm'
   $IPVSADM -C 清空规则
   $IPVSADM -A -t 192.168.147.144:80 -s wlc -p 3 // -A表示增长规则，-t后跟外网IP，-s算法，-p必定时间内将同ip请求发到同一rs（没有也行）
   $IPVSADM -a -t 192.168.147.144:80 -r 192.168.133.132:80 -m -w 1 //-r后跟rs，-m表示NAT模式（masquerade），-w表示权重
   $IPVSADM -a -t 192.168.147.144:80 -r 192.168.133.133:80 -m -w 1
   另外两台不须要特别设置，安装nginx就能够

   DR模式
   三台机器
   分发器，也叫调度器（简写为dir）
   133.130
   rs1
   133.132
   rs2
   133.133
   vip
   133.200
   dir上编写脚本 vim /usr/local/sbin/lvs_dr.sh //内容以下
   #! /bin/bash
   echo 1 > /proc/sys/net/ipv4/ip_forward
   ipv=/usr/sbin/ipvsadm
   vip=192.168.133.200
   rs1=192.168.133.132
   rs2=192.168.133.133
   #注意这里的网卡名字
   ifdown ens33
   ifup ens33 //重启网卡，能够把以前设置的ip清空，避免重复设置ip，不重启也行
   ifconfig ens33:2 $vip broadcast $vip netmask 255.255.255.255 up //绑定vip的命令，ifconfig设置虚拟网卡
   route add -host $vip dev ens33:2 //
   $ipv -C
   $ipv -A -t $vip:80 -s wrr
   $ipv -a -t $vip:80 -r $rs1:80 -g -w 1 //-g DR模式（gateway）
   $ipv -a -t $vip:80 -r $rs2:80 -g -w 1
   两台rs上也编写脚本 vim /usr/local/sbin/lvs_rs.sh//内容以下
   #/bin/bash
   vip=192.168.133.200
   #把vip绑定在lo上，是为了实现rs直接把结果返回给客户端
   ifconfig lo:0 $vip broadcast $vip netmask 255.255.255.255 up
   route add -host $vip lo:0
   #如下操做为更改arp内核参数，目的是为了让rs顺利发送mac地址给客户端
   #参考文档 www.cnblogs.com/lgfeng/archive/2012/10/16/2726308.html
   echo "1" >/proc/sys/net/ipv4/conf/lo/arp_ignore
   echo "2" >/proc/sys/net/ipv4/conf/lo/arp_announce
   echo "1" >/proc/sys/net/ipv4/conf/all/arp_ignore
   echo "2" >/proc/sys/net/ipv4/conf/all/arp_announce
   分别在dir上和两个rs上执行这些脚本

   Keepalived+LVS
   完整架构须要两台服务器（角色为dir）分别安装keepalived软件，目的是实现高可用，但keepalived自己也有负载均衡的功能，因此本次实验能够只安装一台keepalived
   keepalived内置了ipvsadm的功能，因此不须要再安装ipvsadm包，也不用编写和执行那个lvs_dir的脚本
   三台机器分别为：
   dir（安装keepalived）133.130
   rs1 133.132
   rs2 133.133
   vip 133.200
   编辑keepalived配置文件 vim /etc/keepalived/keepalived.conf//内容请到https://coding.net/u/aminglinux/p/aminglinux-book/git/blob/master/D21Z/lvs_keepalived.conf 获取
   须要更改里面的ip信息
   执行ipvsadm -C 把以前的ipvsadm规则清空掉
   systemctl restart network 能够把以前的vip清空掉·
   两台rs上，依然要执行/usr/local/sbin/lvs_rs.sh脚本，但dir上只须要执行部分：echo 1 > /proc/sys/net/ipv4/ip_forward
   keepalived有一个比较好的功能，能够在一台rs宕机时，再也不把请求转发过去