Mycat高可用解决方案二（主从复制）

Mycat高可用解决方案二（主从复制）

系统部署规划

名称	IP	主机名称	用户名/密码	配置
mysql主节点	192.168.199.110	mysql-01	root/hadoop	2核/2G
mysql从节点	192.168.199.111	mysql-02	root/hadoop	2核/2G

 

主机角色	Hosts文件配置 /etc/hosts	hostname配置 /etc/sysconfig/network	防火墙
Master主 192.168.199.110	127.0.0.1 localhost 127.0.0.1 mysql-01 192.168.199.110 mysql-01 192.168.199.111 mysql-02	NETWORKING=yes HOSTNAME=mysql-01	service iptables stop chkconfig iptables off
Slave从 192.168.199.111	127.0.0.1 localhost 127.0.0.1 mysql-02 192.168.199.110 mysql-01 192.168.199.111 mysql-02	NETWORKING=yes HOSTNAME=mysql-02	service iptables stop chkconfig iptables off

主从复制有两种方式：基于日志（binlog）、基于 GTID（全局事务标示符）。本次采用基于日志（binlog）的方式。

MySQL 主从复制（也称 A/B 复制）的原理

(1) Master将数据改变记录到二进制日志(binary log)中，也就是配置文件log-bin指定的文件，这些记录叫作二进制日志事件(binary log events)；
(2) Slave 经过 I/O 线程读取 Master 中的 binary log events 并写入到它的中继日志(relay log)；
(3) Slave 重作中继日志中的事件，把中继日志中的事件信息一条一条的在本地执行一次，完成数据在本地的存储，从而实现将改变反映到它本身的数据(数据重放)。

主从配置须要注意的点

(1)主从服务器操做系统版本和位数一致。

(2) Master 和 Slave 数据库的版本要一致。

(3) Master 和 Slave 数据库中的数据要一致。

(4) Master 开启二进制日志，Master 和 Slave 的 server-id 在局域网内必须惟一（若是是复制的虚拟机，请把生成uuid的auto.cnf文件删除掉，重启mysql让其自动生成uuid，uuid也必须是惟一的）。

主从配置的简要步骤

一、Master 上的配置
(1) 安装数据库；
(2) 修改数据库配置文件，指明 server_id，开启二进制日志(log-bin)；
(3) 启动数据库，查看当前是哪一个日志，position 号是多少；
(4) 登陆数据库，受权数据复制用户（IP 地址为从机 IP 地址，若是是双向主从，这里的还须要受权本机的 IP 地址，此时本身的 IP 地址就是从 IP 地址)；
(5) 备份数据库（记得加锁和解锁）；
(6) 传送备份数据到 Slave 上（scp命令）；
(7) 启动数据库；

以上步骤，为单向主从搭建成功。

想搭建双向主从须要的步骤：
(1) 登陆数据库，指定 Master 的地址、用户、密码等信息（此步仅双向主从时须要）；
(2) 开启同步，查看状态；
二、Slave 上的配置
(1) 安装数据库；
(2) 修改数据库配置文件，指明 server_id，relay-log（若是是搭建双向主从的话，也要开启二进制日志 log-bin）；
(3) 启动数据库，还原备份；
(4) 查看当前是哪一个日志，position 号是多少（单向主今后步不须要，双向主从须要）；
(5) 指定 Master 的地址、用户、密码等信息；
(6) 开启同步，查看状态。

单向主从环境（也称 MySQL A/B 复制）的搭建

一、Master（192.168.199.110）和 Slave（192.168.199.111）上都安装了相同版本的数据库（mysql-5.7.9）。
注意：两台数据库服务器的的 selinux 都要 disable（永久关闭 selinux，请修改/etc/selinux/config，将 SELINUX 改成 disabled）

二、修改 Master 的配置文件/etc/my.cnf

[root@mysql-01 ~]# vi /etc/my.cnf ## 在 [mysqld] 中增长如下配置项 ## 设置 server_id，通常设置为 IP的后一段或后两段 server_id=110 ## 复制过滤：须要备份的数据库，输出 binlog #binlog-do-db=test01 ## 复制过滤：不须要备份的数据库，不输出（mysql 库通常不一样步） binlog-ignore-db=mysql ## 开启二进制日志功能，能够随便取，最好有含义 log-bin=mysql-bin ## 为每一个 session 分配的内存，在事务过程当中用来存储二进制日志的缓存 binlog_cache_size=1M ## 主从复制的格式（mixed,statement,row，默认格式是 statement）
binlog_format=mixed
## 二进制日志自动删除/过时的天数。默认值为 0，表示不自动删除。
expire_logs_days=7
## 跳过主从复制中遇到的全部错误或指定类型的错误，避免 slave 端复制中断。
## 如：1062 错误是指一些主键重复，1032 错误是由于主从数据库数据不一致
slave_skip_errors=1062

（如想了解以上参数的更多详细解析，你们能够直接百度参数）

 2.1 复制过滤可让你只复制服务器中的一部分数据，有两种复制过滤：
(1) 在 Master 上过滤二进制日志中的事件；
(2) 在 Slave 上过滤中继日志中的事件。以下：

2.2 MySQL 对于二进制日志 (binlog)的复制类型
(1) 基于语句的复制：在 Master 上执行的 SQL 语句，在 Slave 上执行一样的语句。

MySQL 默认采用基于语句的复制，效率比较高。一旦发现无法精确复制时，会自动选着基于行的复制。

(2) 基于行的复制：把改变的内容复制到 Slave，而不是把命令在 Slave 上执行一遍。从MySQL5.0 开始支持。

(3) 混合类型的复制：默认采用基于语句的复制，一旦发现基于语句的没法精确的复制时，就会采用基于行的复制。

三、启动/重启 Master 数据库服务，登陆数据库，建立数据同步用户，并授予相应的权限

[root@mysql-01 ~]# service mysql restart Shutting down MySQL..[ OK ] Starting MySQL..[ OK ] [root@mysql-01 ~]# mysql -uroot -p
Enter password: 
Welcome to the MySQL monitor.  Commands end with ; or \g.
Your MySQL connection id is 2
Server version: 5.7.9-log MySQL Community Server (GPL)

Copyright (c) 2000, 2015, Oracle and/or its affiliates. All rights reserved.

Oracle is a registered trademark of Oracle Corporation and/or its
affiliates. Other names may be trademarks of their respective
owners.
Type 'help;' or '\h' for help. Type '\c' to clear the current input statement. ##建立数据同步用户（生产环境建议密码复杂些），并授予相应的权限 'repl'@'192.168.199.%' 或 'repl'@'192.168.%.%' mysql> grant replication slave, replication client on *.* to 'repl'@'192.168.199.111' identified by '123456'; Query OK, 0 rows affected (0.00 sec) ## 刷新受权表信息 mysql> flush privileges; Query OK, 0 rows affected (0.00 sec) ## 查看 position 号，记下 position 号（从机上须要用到这个 position 号和如今的日志文件) mysql> show master status;

四、建立 test01 库、表，并写入必定量的数据，用于模拟现有的业务系统数据库

create database if not exists test01 default charset utf8 collate utf8_general_ci; 
use test01; 
DROP TABLE IF EXISTS `login_user`;
CREATE TABLE `login_user` ( 
 `Id` int(11) NOT NULL AUTO_INCREMENT, 
 `userName` varchar(255) NOT NULL DEFAULT '' COMMENT '用户名', 
 `pwd` varchar(255) NOT NULL DEFAULT '' COMMENT '密码',
 PRIMARY KEY (`Id`) 
) ENGINE=InnoDB AUTO_INCREMENT=2 DEFAULT CHARSET=utf8 COMMENT='用户信息表'; 

INSERT INTO `login_user` VALUES (1,'刘备','123456'),(2,'关羽','123456'),(3,'张飞','123456'),(4,'赵云','123456');

五、为保证 Master 和 Slave 的数据一致，咱们采用 主节点备份,从节点还原 来实现初始数据一致。

## 一、先临时锁表
 mysql> flush tables with read lock; Query OK, 0 rows affected (0.00 sec) ## 这里咱们实行全库备份，在实际中，咱们可能只同步某一个库，那也能够只备份一个库（mysqldump在shell命令行执行） root@mysql-01 tmp]# mysqldump -p3306 -uroot -p --add-drop-table test01 > /tmp/test01.sql
mysqldump: [Warning] Using a password on the command line interface can be insecure.
Enter password: 
[root@mysql-01 ~]# cd /tmp 
[root@mysql-01 tmp]# ll
total 8
-rw-r--r--  1 root root 2123 Jan  8 20:48 test01.sql
[root@mysql-01 tmp]# ## 注意：实际生产环境中大数据量（超 2G 数据）的备份，建议不要使用 mysqldump 进行比分，由于会很是慢。此时推荐使用 XtraBackup 进行备份。
 ## 二、解锁表
 mysql> unlock tables; Query OK, 0 rows affected (0.00 sec) 将 Master 上备份的数据远程传送到 Slave 上，以用于 Slave 配置时恢复数据
[root@mysql-01 tmp]# scp /tmp/test01.sql root@192.168.199.111:/tmp/
root@192.168.199.111's password: 
test01.sql                         100% 2123     2.1KB/s   00:00    
[root@mysql-01 tmp]#

六、接下来处理 Slave（192.168.199.111），配置文件只需修改一项，其他配置用命令来操做

[root@mysql-02 ~]# vi /etc/my.cnf ## 在 [mysqld] 中增长如下配置项 ## 设置 server_id，通常设置为 IP server_id=111 ## 复制过滤：须要备份的数据库，输出 binlog #binlog-do-db=test01 ##复制过滤：不须要备份的数据库，不输出（mysql 库通常不一样步） binlog-ignore-db=mysql ## 开启二进制日志，以备 Slave 做为其它 Slave 的 Master 时使用 log-bin=mysql-slave-bin ## 为每一个 session 分配的内存，在事务过程当中用来存储二进制日志的缓存 binlog_cache_size = 1M ## 主从复制的格式（mixed,statement,row，默认格式是 statement） binlog_format=mixed ## 二进制日志自动删除/过时的天数。默认值为 0，表示不自动删除。 expire_logs_days=7 ## 跳过主从复制中遇到的全部错误或指定类型的错误，避免 slave 端复制中断。 ## 如：1062 错误是指一些主键重复，1032 错误是由于主从数据库数据不一致 slave_skip_errors=1062 ## relay_log 配置中继日志 relay_log=mysql-relay-bin ## log_slave_updates 表示 slave 将复制事件写进本身的二进制日志 log_slave_updates=1 ## 防止改变数据(除了特殊的线程) read_only=1 若是 Slave 为其它 Slave 的 Master 时，必须设置 bin_log。
在这里，咱们开启了二进制日志，并且显式的命名(默认名称为 hostname，可是，若是 hostname 改变则会出现问题)。 relay_log 配置中继日志，log_slave_updates 表示 slave 将复制事件写进本身的二进制日志。 当设置 log_slave_updates 时，你可让 slave 扮演其它 slave 的 master。
此时，slave 把 SQL线程执行的事件写进行本身的二进制日志(binary log)，而后，它的 slave 能够获取这些事件并执行它。
以下图所示（发送复制事件到其它 Slave）

七、保存后重启 MySQL 服务，还原备份数据

[root@mysql-02 ~]# service mysql restart Shutting down MySQL..[ OK ] Starting MySQL..[ OK ] Slave 上建立相同库：mysql -uroot -p123456  -e “create database test”
或者进入mysql命令行建立数据库

create database if not exists test01 default charset utf8 collate utf8_general_ci; use test01; 导入数据 [root@mysql-02 ~]# mysql -uroot -p test01 < /tmp/test01.sql Enter password: [root@mysql-02 ~]#

八、登陆 Slave 数据库，添加相关参数
（Master 的 IP、端口、同步用户、密码、position 号、读取哪一个日志文件)

[root@mysql-02 data]# mysql -uroot -p
Enter password: 
Welcome to the MySQL monitor.  Commands end with ; or \g.
Your MySQL connection id is 17
Server version: 5.7.9-log MySQL Community Server (GPL)

Copyright (c) 2000, 2015, Oracle and/or its affiliates. All rights reserved.

Oracle is a registered trademark of Oracle Corporation and/or its
affiliates. Other names may be trademarks of their respective
owners.

Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.

mysql>change master to master_host='192.168.199.110',
master_user='repl',
master_password='123456',
master_port=3306,
master_log_file='mysql-bin.000002',
master_log_pos=2555,
master_connect_retry=30; Query OK, 0 rows affected, 2 warnings (0.01 sec) 上面执行的命令的解释： master_host='192.168.199.110' ## Master 的 IP 地址 master_user='repl' ## 用于同步数据的用户（在 Master 中受权的用户） master_password='123456' ## 同步数据用户的密码 master_port=3306 ## Master 数据库服务的端口 master_log_file='mysql-bin.000002' ##指定 Slave 从哪一个日志文件开始读复制数据（可 在 Master 上使用 show master status 查看到日志文件名） master_log_pos=2555 ## 从哪一个 POSITION 号开始读 master_connect_retry=30 ##当从新创建主从链接时，若是链接创建失败，间隔多久后重试。单位为秒，默认设置为 60 秒，同步延迟调优参数。 
## 查看主从同步状态 mysql> show slave status\G; 可看到 Slave_IO_State 为空， Slave_IO_Running 和 Slave_SQL_Running 是 No，代表 Slave 尚未开始复制过程。 
## 开启主从同步 mysql> start slave; Query OK, 0 rows affected (0.00 sec) ## 再查看主从同步状态 mysql> show slave status\G;

可看到 Slave_IO_Running 和 Slave_SQL_Running 是 Yes，代表 Slave 已经开始复制过程

主要看如下两个参数，这两个参数若是是 Yes 就表示主从同步正常
Slave_IO_Running: Yes
Slave_SQL_Running: Yes
由截图中的主从同步状态信息能够看出，咱们配置的主从同步是正常的。

异常状况：

-- Last_IO_Errno: 2003 多是主库防火墙没有关致使的 设置SELINUX=disabled [root@mysql-01 ~]# vi /etc/selinux/config SELINUX=disabled [root@mysql-01 ~]# service iptables status; [root@mysql-01 ~]# service iptables stop
[root@mysql-01 ~]#  而后在从库stop slave; start slave; 就搞定了！
即时生效，重启后复原：service iptables stop
永久性生效，重启后不会复原：chkconfig iptables offchkconfig iptables off

可查看 master 和 slave 上线程的状态。在 master 上，能够看到 slave 的 I/O 线程建立的链接：
Master : mysql> show processlist\G;

1.row 为处理 slave 的 I/O 线程的链接。
2.row 为处理本地命令行的线程。

Slave : mysql> show processlist\G;

1.row 为处理本地命令行的线程。

2.row 为 I/O 线程状态。

3.row 为 SQL 线程状态。

九、主从数据复制同步测试

(1) 在 Master 中的 test01 库上变动数据的同步测试； mysql> INSERT INTO `login_user` VALUES (5,'同步测试 1','123456'),(6,'同步测试 2','123456'); Master 中添加完以后，登陆 Slave 中查看数据是否已同步。 (2) 在 Master 上新建一个 test02 库 mysql> create database if not exists test02 default charset utf8 collate utf8_general_ci; 在 Slave 中查看数据库 mysql> show databases; 最终的测试结果是，在 Master 中的操做，都成功同步到了 Slave。 10、测试过程当中，若是遇到同步出错，可在 Slave 上重置主从复制设置（选操做）： (1) mysql> reset slave; (2) mysql> change master to master_host='192.168.199.110', master_user='repl', master_password='123456', master_port=3306, master_log_file='mysql-bin.00000x', master_log_pos=xx, master_connect_retry=30; (此时，master_log_file 和 master_log_pos 要在 Master 中用 show master status 命令查看) 注意：若是在 Slave 没作只读控制的状况下，千万不要在 Slave 中手动插入数据，那样数据就会不一致，主从就会断开，就须要从新配置了。

十一、上面所搭建的是单向复制的主从，也是用的比较多的，而双向主从其实就是 Master 和Slave 都开启日志功能，

而后在 Master 执行受权用户（这里受权的是本身做为从服务器，也就是这里的 IP 地址是 Master 的 IP 地址），而后再在 Master 上进行 chang master 操做。

MySQL 主从数据同步延迟问题的调优基于局域网的 Master/Slave 机制在一般状况下已经能够知足“实时”备份的要求了。若是延迟比较大，能够从如下几个因素进行排查：

(1) 网络延迟；

(2) Master 负载太高；

(3) Slave 负载太高；

通常的作法是使用多台 Slave 来分摊读请求，再单独配置一台 Slave 只做为备份用，不进行其余任何操做，就能相对最大限度地达到“实时”的要求了。

两个能够减小主从复制延迟的参数（按需配置）：
MySQL 能够指定 3 个参数，用于复制线程重连主库：--master-retry-count，--master-connect-retry，--slave-net-timeout 。

其中 master-connect-retry 和 master-retry-count 须要在 Change Master 搭建主备复制时指定，而 slave-net-timeout 是一个全局变量，能够在 MySQL 运行时在线设置。

具体的重试策略为：备库过了 slave-net-timeout 秒尚未收到主库来的数据，它就会开始第一次重试。

而后每过 master-connect-retry 秒，备库会再次尝试重连主库。直到重试了 master-retry-count 次，它才会放弃重试。

若是重试的过程当中，连上了主库，那么它认为当前主库是好的，又会开始 slave-net-timeout 秒的等待。

slave-net-timeout 的默认值是 3600 秒，master-connect-retry 默认为 60 秒，master-retry-count 默认为 86400 次。

也就是说，若是主库一个小时都没有任何数据变动发送过来，备库才会尝试重连主库。

这就是为何在咱们模拟的场景下，一个小时后，备库才会重连主库，继续同步数据变动的缘由。

这样的话，若是你的主库上变动比较频繁，能够考虑将 slave-net-timeout 设置的小一点，避免主库 Binlog dump 线程终止了，没法将最新的更新推送过来。

固然 slave-net-timeout 设置的太小也有问题，这样会致使若是主库的变动确实比较少的时候，备库频繁的从新链接主库，形成资源浪费。
slave-net-timeout=seconds
参数说明：当 Slave 从 Master 数据库读取 log 数据失败后，等待多久从新创建链接并获取数据，单位为秒，默认设置为 3600 秒。

在作 MySQL Slave 的时候常常会遇到不少错误，须要根据具体缘由跨过错误继续同步，但有时候是由于网络不稳定、网络闪断形成同步不正常，

若是 Slave 机器很是多的状况下，一个一个的登陆服务器去 stop slave、start slave 变得无聊并且重复。从 MySQL5.1 开始支持的解决方案配置：

master-connect-retry=seconds
参数说明：在主服务器宕机或链接丢失的状况下，从服务器线程从新尝试链接主服务器以前睡眠的秒数。

若是主服务器.info文件中的值能够读取则优先使用。若是未设置，默认值为60秒。

一般配置以上 2 个参数能够减小网络问题致使的主从数据同步延迟。

通常网络问题的错误是：
[ERROR] Error reading packet from server: Lost connection to MySQL server during query (server_errno=xxxx)
[ERROR] Slave I/O thread: Failed reading log event, reconnecting to retry, log ‘edu-mysqlbin.000256’ position 23456

 

推荐参考连接：
http://www.it165.net/database/html/201311/4851.html
http://blog.csdn.net/hguisu/article/details/7325124
http://www.woqutech.com/?p=1116
http://blog.chinaunix.net/uid-10661836-id-4116512.html
http://my.oschina.net/cimu/blog/165019
http://linuxguest.blog.51cto.com/195664/686813/
http://blog.itpub.net/29096438/viewspace-1409405/
http://blog.csdn.net/lxpbs8851/article/details/38455223
http://blog.csdn.net/seteor/article/details/17264633