构建MHA实现MySQL高可用集群架构

构建MHA实现MySQL高可用集群架构

  原创

51tanxiaojun2018-04-22 18:50:52©著做权

文章标签MySQL数据库实现故障自动转移文章分类数据库

 https://blog.51cto.com/u_11034229/2106549

1、MHA简介

MHA（Master HighAvailability）目前在MySQL高可用方面是一个相对成熟的解决方案，它由日本DeNA公司youshimaton（现就任于Facebook公司）开发，是一套优秀的做为MySQL高可用性环境下故障切换和主从提高的高可用软件。在MySQL故障切换过程当中，MHA能作到在0~30秒以内自动完成数据库的故障切换操做，而且在进行故障切换的过程当中，MHA能在最大程度上保证数据的一致性，以达到真正意义上的高可用。

MHA里有两个角色一个是MHA Node（数据节点）另外一个是MHA Manager（管理节点）。

MHA Manager能够单独部署在一台独立的机器上管理多个master-slave集群，也能够部署在一台slave节点上。MHA Node运行在每台MySQL服务器上，MHA Manager会定时探测集群中的master节点，当master出现故障时，它能够自动将最新数据的slave提高为新的master，而后将全部其余的slave从新指向新的master。整个故障转移过程对应用程序彻底透明

在MHA自动故障切换过程当中，MHA试图从宕机的主服务器上保存二进制日志，最大程度的保证数据的不丢失，但这并不老是可行的。例如，若是主服务器硬件故障或没法经过ssh访问，MHA无法保存二进制日志，只进行故障转移而丢失了最新的数据。使用MySQL 5.5的半同步复制，能够大大下降数据丢失的风险。MHA能够与半同步复制结合起来。若是只有一个slave已经收到了最新的二进制日志，MHA能够将最新的二进制日志应用于其余全部的slave服务器上，所以能够保证全部节点的数据一致性

异步复制（Asynchronous replication）

MySQL默认的复制便是异步的，主库在执行完客户端提交的事务后会当即将结果返给给客户端，并不关心从库是否已经接收并处理，这样就会有一个问题，主若是crash掉了，此时主上已经提交的事务可能并无传到从上，若是此时，强行将从提高为主，可能致使新主上的数据不完整。

全同步复制（Fully synchronousreplication）

指当主库执行完一个事务，全部的从库都执行了该事务才返回给客户端。由于须要等待全部从库执行完该事务才能返回，因此全同步复制的性能必然会收到严重的影响。

半同步复制（Semisynchronous replication）

介于异步复制和全同步复制之间，主库在执行完客户端提交的事务后不是马上返回给客户端，而是等待至少一个从库接收到并写到relay log中才返回给客户端。相对于异步复制，半同步复制提升了数据的安全性，同时它也形成了必定程度的延迟，这个延迟最少是一个TCP/IP往返的时间。因此，半同步复制最好在低延时的网络中使用。
下面来看看半同步复制的原理图：

总结：异步与半同步异同

默认状况下MySQL的复制是异步的，Master上全部的更新操做写入Binlog以后并不确保全部的更新都被复制到Slave之上。异步操做虽然效率高，可是在Master/Slave出现问题的时候，存在很高数据不一样步的风险，甚至可能丢失数据。
MySQL5.5引入半同步复制功能的目的是为了保证在master出问题的时候，至少有一台Slave的数据是完整的。在超时的状况下也能够临时转入异步复制，保障业务的正常使用，直到一台salve追遇上以后，继续切换到半同步模式。

工做原理

相较于其它HA软件，MHA的目的在于维持MySQL Replication中Master库的高可用性，其最大特色是能够修复多个Slave之间的差别日志，最终使全部Slave保持数据一致，而后从中选择一个充当新的Master，并将其它Slave指向它。

-从宕机崩溃的master保存二进制日志事件(binlogevents)。  

-识别含有最新更新的slave。  

-应用差别的中继日志(relay log)到其它slave。  

-应用从master保存的二进制日志事件(binlogevents)。  

-提高一个slave为新master。  

-使其它的slave链接新的master进行复制。

目前MHA主要支持一主多从的架构，要搭建MHA,要求一个复制集群中必须最少有三台数据库服务器，一主二从，即一台充当master，一台充当备用master，另一台充当从库，由于至少须要三台服务器。
相关软件包

1. MHA监控服务器安装:mha4mysql-manager-0.55-1.el5.noarch，mha4mysql-node-0.54-1.el5.noarch
2. 其余主从集群服务器安装:mha4mysql-node-0.54-1.el5.noarch

MHA软件包官网地址：  https://code.google.com/archive/p/mysql-master-ha/
使用到以下包：

mha4mysql-manager-0.55-1.el5.noarch

mha4mysql-node-0.54-1.el5.noarch

2、构建集群架构基础环境

实现环境：

| 角色 | IP地址 | 主机名 |Server Id | 类型 | OS
| -------- | -------- | -------- |
| Manager | 192.168.64.37 | manager | | 管理节点 | Centos7.2x86_64
| master| 192.168.64.7 | master1 | 1 | 主mysql | Centos7.2x86_64
| Candidate master | 192.168.64.17 |master2| 2 | 从mysql | Centos7.2x86_64
| slave | 192.168.64.27 | slave | 3 | 从mysql | Centos7.2x86_64

其中master对外提供写服务，备选master（实际的slave，主机名master2）提供读服务，slave也提供相关的读服务，一旦master宕机，将会把备选master提高为新的master，slave指向新的master，manager做为管理服务器。

一、 在配置好全部主机IP地址后检查selinux，firewalld设置，关闭全部主机selinux ，firewalld 服务以方便后期主从同步不出错

vim /etc/sysconfig/selinux

SELINUX=disabled   本行替换为

 

systemctl stop firewalld   关闭防火墙

2.同步服务器时间

vim /etc/chrony.conf

server 192.168.64.7 iburst   master2 slave配置与master1时间同步

 

三、
在四台主机上都配置epel源
官网下载地址：点击打开连接 wget  https://mirrors.ustc.edu.cn/epel/7/x86_64/Packages/e/epel-release-7-11.noarch.rpm
4.在四台主机上创建ssh无交互登陆环境

[root@manager ~]#  ssh-keygen -t rsa

[root@manager ~]#  ssh-copy-id -i id_rsa.pub 192.168.64.37

[root@manager ~]#  scp authorized_keys id_rsa 192.168.64.17:/root/.ssh/

[root@manager ~]#  scp authorized_keys id_rsa 192.168.64.27:/root/.ssh/

[root@manager ~]#   scp authorized_keys id_rsa 192.168.64.7:/root/.ssh/

 

测试ssh登陆面密钥

[root@master ~]# ssh root@192.168.64.37   

其它主机能够分别测试下

3、 配置MySQL的主从复制

一、在主从节点安装node节点包（master1 master2,slave）

[root@master ~]# ls

anaconda-ks.cfg  Downloads                             original-ks.cfg  reset.sh   Videos

Desktop          mha4mysql-node-0.54-0.el6.noarch.rpm  Pictures         reset.sql

Documents        Music                                 Public           Template

[root@master ~]# l  yum install mha*

二、修改my.cnf文件，配置主从同步
注意：若主MYSQL服务器已经存在，只是后期才搭建从MYSQL服务器，在置配数据同步前应先将主MYSQL服务器的要同步的数据库拷贝到从MYSQL服务器上（如先在主MYSQL上备份数据库，再用备份在从MYSQL服务器上恢复）
（1.）master1的主机配置：

innodb_file_per_table

log_bin

read_only

server_id=0

skip_name_resolve=1

（2.）master2的主机配置：

innodb_file_per_table

server_id=2

skip_name_resolve=1

read_only

relay_log_purge=0

log_bin

（3）slave的主机配置：

innodb_file_per_table

server_id=3

skip_name_resolve=1

read_only

relay_log_purge=0

log_bin

注意：重启全部主机的mariadb服务！！！

（3.）建立用于主从复制的帐号“mharep”，在（master一、master2）主机上建立便可，建立MHA管理帐号“manager”在全部mysql服务器上都要建立。
master一、master2主机上的配置：

mysql>GRANT REPLICATION SLAVE ON *.* TO 'repluser'@'192.168.64.%' IDENTIFIED BY 'centos';

mysql> GRANT ALL ON *.* TO 'mhauser'@'192.168.64.%' IDENTIFIED BY 'centos';

slave主机上的配置：

mysql> GRANT ALL ON *.* TO 'mhauser'@'192.168.64.%' IDENTIFIED BY 'centos';

开始建立主从复制：

查看master1的节点：

MariaDB [(none)]> show master logs;

+--------------------+-----------+

| Log_name           | File_size |

+--------------------+-----------+

| mariadb-bin.000001 |       502 |

| mariadb-bin.000002 |       487 |

| mariadb-bin.000003 |       504 |

| mariadb-bin.000004 |       245 |

+--------------------+-----------+

4 rows in set (0.04 sec)

 

master2主机上的配置：

建立主从复制，并开启slave功能

mysql>CHANGE MASTER TO MASTER_HOST='192.168.64.7',MASTER_USER='repluser' ,MASTER_PASSWORD='centos',MASTER_LOG_FILE='mariadb-bin.000004',MASTER_LOG_POS=245;

mysql> start slave;

查看master2主机从的状态，如下两个值必须为yes,表明从服务器能正常链接主服务器

Slave_IO_Running:Yes  

Slave_SQL_Running:Yes  

slave主机上的配置：

建立主从复制，并开启salve功能

mysql>CHANGE MASTER TO MASTER_HOST='192.168.64.7',MASTER_USER='repluser' ,MASTER_PASSWORD='centos',MASTER_LOG_FILE='mariadb-bin.000004',MASTER_LOG_POS=245;

mysql> start slave;

查看slave主机从的状态，如下两个值必须为yes,表明从服务器能正常链接主服务器

Slave_IO_Running:Yes  

Slave_SQL_Running:Yes

MariaDB [(none)]> show slave status\G;

*************************** 1. row ***************************

               Slave_IO_State: Waiting for master to send event

                  Master_Host: 192.168.64.7

                  Master_User: repluser

                  Master_Port: 3306

                Connect_Retry: 60

              Master_Log_File: mariadb-bin.000004

          Read_Master_Log_Pos: 245

               Relay_Log_File: mariadb-relay-bin.000002

                Relay_Log_Pos: 531

        Relay_Master_Log_File: mariadb-bin.000004

             Slave_IO_Running: Yes

            Slave_SQL_Running: Yes

              Replicate_Do_DB:

          Replicate_Ignore_DB:

           Replicate_Do_Table:

       Replicate_Ignore_Table:

      Replicate_Wild_Do_Table:

  Replicate_Wild_Ignore_Table:

                   Last_Errno: 0

                   Last_Error:

                 Skip_Counter: 0

          Exec_Master_Log_Pos: 245

              Relay_Log_Space: 827

              Until_Condition: None

               Until_Log_File:

                Until_Log_Pos: 0

           Master_SSL_Allowed: No

           Master_SSL_CA_File:

           Master_SSL_CA_Path:

              Master_SSL_Cert:

            Master_SSL_Cipher:

               Master_SSL_Key:

        Seconds_Behind_Master: 0

Master_SSL_Verify_Server_Cert: No

                Last_IO_Errno: 0

                Last_IO_Error:

               Last_SQL_Errno: 0

               Last_SQL_Error:

  Replicate_Ignore_Server_Ids:

             Master_Server_Id: 1

1 row in set (0.00 sec)

 

ERROR: No query specified

 

注意：

第一条grant命令是建立一个用于主从复制的账号repluser，在master1和master2的主机上建立便可。

第二条grant命令是建立MHA管理帐号manager，全部mysql服务器上都须要建立。MHA会在配置文件里要求能远程登陆到数据库，因此要进行必要的赋权。

4、安装配置mysql-MHA

mha包括manager节点和data节点，data节点包括原有的MySQL复制结构中的主机，至少3台，即1主2从，当masterfailover后，还能保证主从结构；主从复制集群只需安装node包。

manager server：运行监控脚本，负责monitoring和 auto-failover；mha manager节点须要安装node包和manager包。
一、在manager主机上须要安装（ mha4mysql-manager-0.55-0.el6.noarch.rpm和 mha4mysql-node-0.54-0.el6.noarch.rpm）两个操做管理节点， 在3台数据库主机上只须要安装MHA的node节点便可。

[root@manager ~]# ls

192.168.64.17    cobbler.ks            mha4mysql-manager-0.55-0.el6.noarch.rpm

192.168.64.27    ks-post.log           mha4mysql-node-0.54-0.el6.noarch.rpm

192.168.64.7     ks-post-nochroot.log  original-ks.cfg

anaconda-ks.cfg  ks-pre.log

[root@manager ~]#  yum install mha*

其余三台数据库节点须要安装MHA的node节点（过程略）！！！

1. 配置MHA

与绝大多数Linux应用程序相似，MHA的正确使用依赖于合理的配置文件。MHA的配置文件与mysql的my.cnf文件配置类似，采起的是param=value的方式来配置，配置文件位于管理节点，一般包括每个mysql server的主机名，mysql用户名，密码，工做目录等等。

（1.）编辑/etc/masterha/app1.conf，内容以下：

[root@manager ~]# vim /etc/mastermha/app1.cnf

[server default]

user=mhauser

password=centos

manager_workdir=/data/mastermha/app1/

manager_log=/data/mastermha/app1/manager.log

remote_workdir=/data/mastermha/app1/

ssh_user=root

repl_user=repluser

repl_password=centos

ping_interval=1

 

[server1]

hostname=192.168.64.7

candidate_master=1

[server2]

hostname=192.168.64.17

candidate_master=1

[server3]

hostname=192.168.64.27

candidate_master=1

配置项的解释：

manager_workdir=/masterha/app1 //设置manager的工做目录  

manager_log=/masterha/app1/manager.log //设置manager的日志  

user=manager//设置监控用户manager  

password=123456  //监控用户manager的密码  

ssh_user=root  //ssh链接用户  

repl_user=mharep  //主从复制用户  

repl_password=123.abc //主从复制用户密码  

ping_interval=1   //设置监控主库，发送ping包的时间间隔，默认是3秒，尝试三次没有回应的时候自动进行railover  

master_binlog_dir=/usr/local/mysql/data   //设置master 保存binlog的位置，以便MHA能够找到master的日志，我这里的也就是mysql的数据目录  

candidate_master=1//设置为候选master，若是设置该参数之后，发生主从切换之后将会将此从库提高为主库。

SSH 有效性验证：

[root@manager ~]# masterha_check_ssh --conf=/etc/mastermha/app1.cnf

Sun Apr 22 06:36:33 2018 - [warning] Global configuration file /etc/masterha_default.cnf not found. Skipping.

/etc/masterha/app1.cnf:No such file or directory

 at /usr/share/perl5/vendor_perl/MHA/SSHCheck.pm line 148.

[root@manager ~]# masterha_check_ssh

masterha_check_ssh

[root@manager ~]# masterha_check_ssh --conf=/etc/mastermha/app1.cnf

Sun Apr 22 06:37:13 2018 - [warning] Global configuration file /etc/masterha_default.cnf not found. Skipping.

Sun Apr 22 06:37:13 2018 - [info] Reading application default configurations from /etc/mastermha/app1.cnf..

Sun Apr 22 06:37:13 2018 - [info] Reading server configurations from /etc/mastermha/app1.cnf..

Sun Apr 22 06:37:13 2018 - [info] Starting SSH connection tests..

Sun Apr 22 06:37:18 2018 - [debug]

Sun Apr 22 06:37:14 2018 - [debug]  Connecting via SSH from root@192.168.64.27(192.168.64.27:22) to root@192.168.64.7(192.168.64.7:22)..

Sun Apr 22 06:37:16 2018 - [debug]   ok.

Sun Apr 22 06:37:16 2018 - [debug]  Connecting via SSH from root@192.168.64.27(192.168.64.27:22) to root@192.168.64.17(192.168.64.17:22)..

Sun Apr 22 06:37:17 2018 - [debug]   ok.

Sun Apr 22 06:37:18 2018 - [debug]

Sun Apr 22 06:37:14 2018 - [debug]  Connecting via SSH from root@192.168.64.17(192.168.64.17:22) to root@192.168.64.7(192.168.64.7:22)..

Sun Apr 22 06:37:16 2018 - [debug]   ok.

Sun Apr 22 06:37:16 2018 - [debug]  Connecting via SSH from root@192.168.64.17(192.168.64.17:22) to root@192.168.64.27(192.168.64.27:22)..

Sun Apr 22 06:37:17 2018 - [debug]   ok.

Sun Apr 22 06:37:18 2018 - [debug]

Sun Apr 22 06:37:13 2018 - [debug]  Connecting via SSH from root@192.168.64.7(192.168.64.7:22) to root@192.168.64.17(192.168.64.17:22)..

Sun Apr 22 06:37:17 2018 - [debug]   ok.

Sun Apr 22 06:37:17 2018 - [debug]  Connecting via SSH from root@192.168.64.7(192.168.64.7:22) to root@192.168.64.27(192.168.64.27:22)..

@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@

@    WARNING: REMOTE HOST IDENTIFICATION HAS CHANGED!     @

@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@

IT IS POSSIBLE THAT SOMEONE IS DOING SOMETHING NASTY!

Someone could be eavesdropping on you right now (man-in-the-middle attack)!

It is also possible that a host key has just been changed.

The fingerprint for the ECDSA key sent by the remote host is

SHA256:080GPU/VjQmyb/Ije4lASHgZDXJv5E/QOqAcAv0wfV0.

Please contact your system administrator.

Add correct host key in /root/.ssh/known_hosts to get rid of this message.

Offending ECDSA key in /root/.ssh/known_hosts:1

Keyboard-interactive authentication is disabled to avoid man-in-the-middle attacks.

Sun Apr 22 06:37:18 2018 - [debug]   ok.

Sun Apr 22 06:37:18 2018 - [info] All SSH connection tests passed successfully.

集群复制的有效性验证：

注意：mysql数据库必须都启动

[root@manager ~]# masterha_check_repl --conf=/etc/mastermha/app1.cnf

注意：验证成功的话会自动识别出全部服务器和主从情况！！！

在验证时，若遇到这个错误：Can’t exec “mysqlbinlog” …

解决方法是在全部服务器上执行：

[css] view plain copy

ln -s /usr/local/mysql/bin/* /usr/local/bin/

启动 manager：

[root@manager ~]# masterha_manager --conf=/etc/mastermha/app1.cnf

Sun Apr 22 06:39:35 2018 - [warning] Global configuration file /etc/masterha_default.cnf not found. Skipping.

Sun Apr 22 06:39:35 2018 - [info] Reading application default configurations from /etc/mastermha/app1.cnf..

Sun Apr 22 06:39:35 2018 - [info] Reading server configurations from /etc/mastermha/app1.cnf..

注意：在应用Unix/Linux时，咱们通常想让某个程序在后台运行，因而咱们将常会用&在程序结尾来让程序自动运行。好比咱们要运行mysql在后台： /usr/local/mysql/bin/mysqld_safe –user=mysql&。但是有不少程序并不想mysqld同样，这样咱们就须要nohup命令，

5、模拟故障，检测状态转移

一、停掉master1 的mariadb服务

[root@master ~]#  systemctl stop mariadb

（2.)查看 MHA 日志
上面的配置文件中指定了日志位置为/data /masterha/app1/manager.log

[root@manager ~]# cat/masterha/app1/manager.log

从日志信息中能够看到master failover 已经成功了，并能够看出故障转移的大致流程

(3)检查 slave 的复制
登陆 slave（192.168.64.27）的Mysql，查看 slave 状态

mysql> show slave status\G;

能够看到master 的 IP 如今为 192.168.64.17,已经切换到和192.168.64.27同步了，原本是和192.168.64.7同步的，说明 MHA 已经把Candicatemaster(master2)提高为了新的master，IO线程和SQL线程也正确运行，MHA 搭建成功!!!