25 | MySQL是怎么保证高可用的?

在上一篇文章中,我和你介绍了binlog的基本内容,在一个主备关系中,每一个备库接收主库的binlog并执行。mysql

正常状况下,只要主库执行更新生成的全部binlog,均可以传到备库并被正确地执行,备库就能达到跟主库一致的状态,这就是最终一致性。sql

可是,MySQL要提供高可用能力,只有最终一致性是不够的。为何这么说呢?今天我就着重和你分析一下。数据库

这里,我再放一次上一篇文章中讲到的双M结构的主备切换流程图。网络

图 1 MySQL主备切换流程--双M结构

主备延迟

主备切换多是一个主动运维动做,好比软件升级、主库所在机器按计划下线等,也多是被动操做,好比主库所在机器掉电。运维

接下来,咱们先一块儿看看主动切换的场景。函数

在介绍主动切换流程的详细步骤以前,我要先跟你说明一个概念,即“同步延迟”。与数据同步有关的时间点主要包括如下三个:oop

  1. 主库A执行完成一个事务,写入binlog,咱们把这个时刻记为T1;性能

  2. 以后传给备库B,咱们把备库B接收完这个binlog的时刻记为T2;spa

  3. 备库B执行完成这个事务,咱们把这个时刻记为T3。线程

所谓主备延迟,就是同一个事务,在备库执行完成的时间和主库执行完成的时间之间的差值,也就是T3-T1。

你能够在备库上执行show slave status命令,它的返回结果里面会显示seconds_behind_master,用于表示当前备库延迟了多少秒。

seconds_behind_master的计算方法是这样的:

  1. 每一个事务的binlog 里面都有一个时间字段,用于记录主库上写入的时间;

  2. 备库取出当前正在执行的事务的时间字段的值,计算它与当前系统时间的差值,获得seconds_behind_master。

能够看到,其实seconds_behind_master这个参数计算的就是T3-T1。因此,咱们能够用seconds_behind_master来做为主备延迟的值,这个值的时间精度是秒。

你可能会问,若是主备库机器的系统时间设置不一致,会不会致使主备延迟的值不许?

其实不会的。由于,备库链接到主库的时候,会经过执行SELECT UNIX_TIMESTAMP()函数来得到当前主库的系统时间。若是这时候发现主库的系统时间与本身不一致,备库在执行seconds_behind_master计算的时候会自动扣掉这个差值。

须要说明的是,在网络正常的时候,日志从主库传给备库所需的时间是很短的,即T2-T1的值是很是小的。也就是说,网络正常状况下,主备延迟的主要来源是备库接收完binlog和执行完这个事务之间的时间差。

因此说,主备延迟最直接的表现是,备库消费中转日志(relay log)的速度,比主库生产binlog的速度要慢。接下来,我就和你一块儿分析下,这多是由哪些缘由致使的。

主备延迟的来源

首先,有些部署条件下,备库所在机器的性能要比主库所在的机器性能差。

通常状况下,有人这么部署时的想法是,反正备库没有请求,因此能够用差一点儿的机器。或者,他们会把20个主库放在4台机器上,而把备库集中在一台机器上。

其实咱们都知道,更新请求对IOPS的压力,在主库和备库上是无差异的。因此,作这种部署时,通常都会将备库设置为“非双1”的模式。

但实际上,更新过程当中也会触发大量的读操做。因此,当备库主机上的多个备库都在争抢资源的时候,就可能会致使主备延迟了。

固然,这种部署如今比较少了。由于主备可能发生切换,备库随时可能变成主库,因此主备库选用相同规格的机器,而且作对称部署,是如今比较常见的状况。

追问1:可是,作了对称部署之后,还可能会有延迟。这是为何呢?

这就是第二种常见的可能了,即备库的压力大。通常的想法是,主库既然提供了写能力,那么备库能够提供一些读能力。或者一些运营后台须要的分析语句,不能影响正常业务,因此只能在备库上跑。

我真就见过很多这样的状况。因为主库直接影响业务,你们使用起来会比较克制,反而忽视了备库的压力控制。结果就是,备库上的查询耗费了大量的CPU资源,影响了同步速度,形成主备延迟。

这种状况,咱们通常能够这么处理:

  1. 一主多从。除了备库外,能够多接几个从库,让这些从库来分担读的压力。

  2. 经过binlog输出到外部系统,好比Hadoop这类系统,让外部系统提供统计类查询的能力。

其中,一主多从的方式大都会被采用。由于做为数据库系统,还必须保证有按期全量备份的能力。而从库,就很适合用来作备份。

备注:这里须要说明一下,从库和备库在概念上其实差很少。在咱们这个专栏里,为了方便描述,我把会在HA过程当中被选成新主库的,称为备库,其余的称为从库。

追问2:采用了一主多从,保证备库的压力不会超过主库,还有什么状况可能致使主备延迟吗?

这就是第三种可能了,即大事务。

大事务这种状况很好理解。由于主库上必须等事务执行完成才会写入binlog,再传给备库。因此,若是一个主库上的语句执行10分钟,那这个事务极可能就会致使从库延迟10分钟。

不知道你所在公司的DBA有没有跟你这么说过:不要一次性地用delete语句删除太多数据。其实,这就是一个典型的大事务场景。

好比,一些归档类的数据,平时没有注意删除历史数据,等到空间快满了,业务开发人员要一次性地删掉大量历史数据。同时,又由于要避免在高峰期操做会影响业务(至少有这个意识仍是很不错的),因此会在晚上执行这些大量数据的删除操做。

结果,负责的DBA同窗半夜就会收到延迟报警。而后,DBA团队就要求你后续再删除数据的时候,要控制每一个事务删除的数据量,分红屡次删除。

另外一种典型的大事务场景,就是大表DDL。这个场景,我在前面的文章中介绍过。处理方案就是,计划内的DDL,建议使用gh-ost方案(这里,你能够再回顾下第13篇文章《为何表数据删掉一半,表文件大小不变?》中的相关内容)。

追问3:若是主库上也不作大事务了,还有什么缘由会致使主备延迟吗?

形成主备延迟还有一个大方向的缘由,就是备库的并行复制能力。这个话题,我会留在下一篇文章再和你详细介绍。

其实仍是有很多其余状况会致使主备延迟,若是你还碰到过其余场景,欢迎你在评论区给我留言,我来和你一块儿分析、讨论。

因为主备延迟的存在,因此在主备切换的时候,就相应的有不一样的策略。

可靠性优先策略

在图1的双M结构下,从状态1到状态2切换的详细过程是这样的:

  1. 判断备库B如今的seconds_behind_master,若是小于某个值(好比5秒)继续下一步,不然持续重试这一步;

  2. 把主库A改为只读状态,即把readonly设置为true;

  3. 判断备库B的seconds_behind_master的值,直到这个值变成0为止;

  4. 把备库B改为可读写状态,也就是把readonly 设置为false;

  5. 把业务请求切到备库B。

这个切换流程,通常是由专门的HA系统来完成的,咱们暂时称之为可靠性优先流程。

图2 MySQL可靠性优先主备切换流程

备注:图中的SBM,是seconds_behind_master参数的简写。

能够看到,这个切换流程中是有不可用时间的。由于在步骤2以后,主库A和备库B都处于readonly状态,也就是说这时系统处于不可写状态,直到步骤5完成后才能恢复。

在这个不可用状态中,比较耗费时间的是步骤3,可能须要耗费好几秒的时间。这也是为何须要在步骤1先作判断,确保seconds_behind_master的值足够小。

试想若是一开始主备延迟就长达30分钟,而不先作判断直接切换的话,系统的不可用时间就会长达30分钟,这种状况通常业务都是不可接受的。

固然,系统的不可用时间,是由这个数据可靠性优先的策略决定的。你也能够选择可用性优先的策略,来把这个不可用时间几乎降为0。

可用性优先策略

若是我强行把步骤四、5调整到最开始执行,也就是说不等主备数据同步,直接把链接切到备库B,而且让备库B能够读写,那么系统几乎就没有不可用时间了。

咱们把这个切换流程,暂时称做可用性优先流程。这个切换流程的代价,就是可能出现数据不一致的状况。

接下来,我就和你分享一个可用性优先流程产生数据不一致的例子。假设有一个表 t:

mysql> CREATE TABLE `t` (
`id` int(11) unsigned NOT NULL AUTO_INCREMENT,
`c` int(11) unsigned DEFAULT NULL,
PRIMARY KEY (`id`)
) ENGINE=InnoDB;

insert into t(c) values(1),(2),(3);

这个表定义了一个自增主键id,初始化数据后,主库和备库上都是3行数据。接下来,业务人员要继续在表t上执行两条插入语句的命令,依次是:

insert into t(c) values(4);
insert into t(c) values(5);

假设,如今主库上其余的数据表有大量的更新,致使主备延迟达到5秒。在插入一条c=4的语句后,发起了主备切换。

图3是可用性优先策略,且binlog_format=mixed时的切换流程和数据结果。

图3 可用性优先策略,且binlog_format=mixed

如今,咱们一块儿分析下这个切换流程:

  1. 步骤2中,主库A执行完insert语句,插入了一行数据(4,4),以后开始进行主备切换。

  2. 步骤3中,因为主备之间有5秒的延迟,因此备库B还没来得及应用“插入c=4”这个中转日志,就开始接收客户端“插入 c=5”的命令。

  3. 步骤4中,备库B插入了一行数据(4,5),而且把这个binlog发给主库A。

  4. 步骤5中,备库B执行“插入c=4”这个中转日志,插入了一行数据(5,4)。而直接在备库B执行的“插入c=5”这个语句,传到主库A,就插入了一行新数据(5,5)。

最后的结果就是,主库A和备库B上出现了两行不一致的数据。能够看到,这个数据不一致,是由可用性优先流程致使的。

那么,若是我仍是用可用性优先策略,但设置binlog_format=row,状况又会怎样呢?

由于row格式在记录binlog的时候,会记录新插入的行的全部字段值,因此最后只会有一行不一致。并且,两边的主备同步的应用线程会报错duplicate key error并中止。也就是说,这种状况下,备库B的(5,4)和主库A的(5,5)这两行数据,都不会被对方执行。

图4中我画出了详细过程,你能够本身再分析一下。

图4 可用性优先策略,且binlog_format=row

从上面的分析中,你能够看到一些结论:

  1. 使用row格式的binlog时,数据不一致的问题更容易被发现。而使用mixed或者statement格式的binlog时,数据极可能悄悄地就不一致了。若是你过了好久才发现数据不一致的问题,极可能这时的数据不一致已经不可查,或者连带形成了更多的数据逻辑不一致。

  2. 主备切换的可用性优先策略会致使数据不一致。所以,大多数状况下,我都建议你使用可靠性优先策略。毕竟对数据服务来讲的话,数据的可靠性通常仍是要优于可用性的。

但事无绝对,有没有哪一种状况数据的可用性优先级更高呢?

答案是,有的。

我曾经碰到过这样的一个场景:

  • 有一个库的做用是记录操做日志。这时候,若是数据不一致能够经过binlog来修补,而这个短暂的不一致也不会引起业务问题。
  • 同时,业务系统依赖于这个日志写入逻辑,若是这个库不可写,会致使线上的业务操做没法执行。

这时候,你可能就须要选择先强行切换,过后再补数据的策略。

固然,过后复盘的时候,咱们想到了一个改进措施就是,让业务逻辑不要依赖于这类日志的写入。也就是说,日志写入这个逻辑模块应该能够降级,好比写到本地文件,或者写到另一个临时库里面。

这样的话,这种场景就又可使用可靠性优先策略了。

接下来咱们再看看,按照可靠性优先的思路,异常切换会是什么效果?

假设,主库A和备库B间的主备延迟是30分钟,这时候主库A掉电了,HA系统要切换B做为主库。咱们在主动切换的时候,能够等到主备延迟小于5秒的时候再启动切换,但这时候已经别无选择了。

图5 可靠性优先策略,主库不可用

采用可靠性优先策略的话,你就必须得等到备库B的seconds_behind_master=0以后,才能切换。但如今的状况比刚刚更严重,并非系统只读、不可写的问题了,而是系统处于彻底不可用的状态。由于,主库A掉电后,咱们的链接尚未切到备库B。

你可能会问,那能不能直接切换到备库B,可是保持B只读呢?

这样也不行。

由于,这段时间内,中转日志尚未应用完成,若是直接发起主备切换,客户端查询看不到以前执行完成的事务,会认为有“数据丢失”。

虽然随着中转日志的继续应用,这些数据会恢复回来,可是对于一些业务来讲,查询到“暂时丢失数据的状态”也是不能被接受的。

聊到这里你就知道了,在知足数据可靠性的前提下,MySQL高可用系统的可用性,是依赖于主备延迟的。延迟的时间越小,在主库故障的时候,服务恢复须要的时间就越短,可用性就越高。

小结

今天这篇文章,我先和你介绍了MySQL高可用系统的基础,就是主备切换逻辑。紧接着,我又和你讨论了几种会致使主备延迟的状况,以及相应的改进方向。

而后,因为主备延迟的存在,切换策略就有不一样的选择。因此,我又和你一块儿分析了可靠性优先和可用性优先策略的区别。

在实际的应用中,我更建议使用可靠性优先的策略。毕竟保证数据准确,应该是数据库服务的底线。在这个基础上,经过减小主备延迟,提高系统的可用性。

最后,我给你留下一个思考题吧。

通常如今的数据库运维系统都有备库延迟监控,其实就是在备库上执行 show slave status,采集seconds_behind_master的值。

假设,如今你看到你维护的一个备库,它的延迟监控的图像相似图6,是一个45°斜向上的线段,你以为多是什么缘由致使呢?你又会怎么去确认这个缘由呢?

图6 备库延迟

你能够把你的分析写在评论区,我会在下一篇文章的末尾跟你讨论这个问题。感谢你的收听,也欢迎你把这篇文章分享给更多的朋友一块儿阅读。

上期问题时间

上期我留给你的问题是,什么状况下双M结构会出现循环复制。

一种场景是,在一个主库更新事务后,用命令set global server_id=x修改了server_id。等日志再传回来的时候,发现server_id跟本身的server_id不一样,就只能执行了。

另外一种场景是,有三个节点的时候,如图7所示,trx1是在节点 B执行的,所以binlog上的server_id就是B,binlog传给节点 A,而后A和A’搭建了双M结构,就会出现循环复制。

图7 三节点循环复制

这种三节点复制的场景,作数据库迁移的时候会出现。

若是出现了循环复制,能够在A或者A’上,执行以下命令:

stop slave;
CHANGE MASTER TO IGNORE_SERVER_IDS=(server_id_of_B);
start slave;

这样这个节点收到日志后就不会再执行。过一段时间后,再执行下面的命令把这个值改回来。

stop slave;
CHANGE MASTER TO IGNORE_SERVER_IDS=();
start slave;
相关文章
相关标签/搜索