精讲Redis持久化

前言

在上一篇文章中，介绍了redis内存模型（https://juejin.im/post/5b221afb51882574c9395bb9），从这篇文章开始，将依次介绍Redis的高可用相关的知识-持久化，复制（及读写分离），哨兵，以及集群。

一，Redis的高可用概述

在介绍Redis的高可用以前，先说明一下在Redis的的语境中高可用的含义。

咱们知道，在web服务器中，高可用是指服务器能够正常访问的时间，衡量的标准是在多长时间内能够提供正常服务（99.9％，99.99％，99.999％等等）。可是在Redis语境中，高可用的含义彷佛要宽泛一些，除了保证提供正常服务（如主从分离，快速容灾技术），还须要考虑数据容量的扩展，数据安全不会丢失等。

在Redis的中，实现高可用的技术主要包括持久化，复制，哨兵和集群，下面分别说明它们的做用，以及解决了什么样的问题。

1. 持久化：持久化是最简单的高可用方法（有时甚至不被归为高可用的手段），主要做用是数据备份，即将数据存储在硬盘，保证数据不会因进程退出而丢失。
2. 复制：复制是高可用的Redis的基础，哨兵和集群都是在复制基础上实现高可用的复制主要实现了数据的多机备份，以及对于读操做的负载均衡和简单的故障恢复缺陷：。故障恢复没法自动化;写操做没法负载均衡;存储能力受到单机的限制。
3. 。哨兵：在复制的基础上，哨兵实现了自动化的故障恢复缺陷：写操做没法负载均衡;存储能力受到单机的限制。
4. 集群：经过集群，Redis的解决了写操做没法负载均衡，以及存储能力受到单机限制的问题，实现了较为完善的高可用方案。

二，Redis的持久化概述

持久化的功能：Redis的是内存数据库，数据都是存储在内存中，为了不进程退出致使数据的永久丢失，须要按期将Redis的中的数据以某种形式（数据或命令）从内存保存到硬盘;当下次Redis的重启时，利用持久化文件实现数据恢复。除此以外，为了进行灾难备份，能够将持久化文件拷贝到一个远程位置。

Redis的持久化分为RDB持久化和AOF持久化：前者将当前数据保存到硬盘，后者则是将每次执行的写命令保存到硬盘（相似于MySQL的二进制日志的）;因为AOF持久化的实时性更好，即当进程意外退出时丢失的数据更少，所以AOF是目前主流的持久化方式，不过RDB持久化仍然有其用武之地。

下面依次介绍RDB持久化和AOF持久化;因为Redis的各个版本之间存在差别，如无特殊说明，以Redis3.0为准。

三，RDB持久化

RDB持久化是将当前进程中的数据生成快照保存到硬盘（所以也称做快照持久化），保存的文件后缀是RDB;当Redis的从新启动时，能够读取快照文件恢复数据。

触发条件

RDB持久化的触发分为手动触发和自动触发两种。

1）手动触发

保存命令和bgsave命令均可以生成RDB文件。

保存命令会阻塞Redis的服务器进程，直到RDB文件建立完毕为止，在Redis的服务器阻塞期间，服务器不能处理任何命令请求。

而bgsave命令会建立一个子进程，由子进程来负责建立RDB文件，父进程（即Redis的主进程）则继续处理请求。

此时服务器执行日志以下：

bgsave命令执行过程当中，只有叉子进程时会阻塞服务器，而对于保存命令，整个过程都会阻塞服务器，所以保存已基本被废弃，线上环境要杜绝保存的使用;后文中也将只介绍bgsave命令。此外，在自动触发RDB持久化时，Redis的也会选择bgsave而不是保存来进行持久化;下面介绍自动触发RDB持久化的条件。

2）自动触发

保存mn

自动触发最多见的状况是在配置文件中经过save mn，指定当m秒内发生n次变化时，会触发bgsave。

例如，查看redis的的默认配置文件（Linux的下为redis的根目录下的redis.conf），能够看到以下配置信息：

其中save 900 1的含义是：当时间到900秒时，若是redis数据发生了至少1次变化，则执行bgsave; save 300 10和save 60 10000同理。当三个save条件知足任意一个时，都会引发bgsave的调用。

保存mn的实现原理

Redis的save mn，是经过serverCron函数，脏计数器，和lastsave时间戳来实现的。

serverCron是Redis服务器的周期性操做函数，默认每隔100ms执行一次;该函数对服务器的状态进行维护，其中一项工做就是检查save mn配置的条件是否知足，若是知足就执行bgsave。若是以为本文有用，能够加个人群：619881427学习更多的Java架构技术知识，包括分布式架构，微服务架构，性能优化，源码分析等，已经有小伙伴录制好视频免费分享给新加入进来的朋友。

脏计数器是Redis的服务器维持的一个状态，记录了上一次执行bgsave /保存命令后，服务器状态进行了多少次修改（包括增删改）;而当保存/ bgsave执行完成后，会将脏从新置为0 。

例如，若是Redis执行了set mykey helloworld，则脏值会+1;若是执行了sadd myset v1 v2 v3，则脏值会+3;注意dirty记录的是服务器进行了多少次修改，而不是客户端执行了多少修改数据的命令。

LASTSAVE时间戳也是Redis的服务器维持的一个状态，记录的是上一次成功执行保存/ bgsave的时间。

save mn的原理以下：每隔100ms，执行serverCron函数;在serverCron函数中，遍历保存mn配置的保存条件，只要有一个条件知足，就进行bgsave。对于每个save mn条件，只有下面两条同时知足时才算知足：

（1）当前时间-lastsave> m

（2）脏> = n

保存mn执行日志

下图是save mn触发bgsave执行时，服务器打印日志的状况：

其余自动触发机制

除了保存mn之外，还有一些其余状况会触发bgsave：

• 在主从复制场景下，若是从节点执行全量复制操做，则主节点会执行bgsave命令，并将RDB文件发送给从节点
• 执行关机命令时，自动执行RDB持久化，以下图所示：

2.执行流程

前面介绍了触发bgsave的条件，下面将说明bgsave命令的执行流程，以下图所示

图片中的5个步骤所进行的操做以下：

1）Redis父进程首先判断：当前是否在执行save，或bgsave / bgrewriteaof（后面会详细介绍该命令）的子进程，若是在执行则bgsave命令直接返回.bgsave / bgrewriteaof的子进程不能同时执行，主要是基于性能方面的考虑：两个并发的子进程同时执行大量的磁盘写操做，可能引发严重的性能问题。

2）父进程执行fork操做建立子进程，这个过程当中父进程是阻塞的，Redis不能执行来自客户端的任何命令

3）父进程fork后，bgsave命令返回“后台保存开始”信息并再也不阻塞父进程，并能够响应其余命令

4）子进程建立RDB文件，根据父进程内存快照生成临时快照文件，完成后对原有文件进行原子替换

5）子进程发送信号给父进程表示完成，父进程更新统计信息

3. RDB文件

RDB文件是通过压缩的二进制文件，下面介绍关于RDB文件的一些细节。

存储路径

RDB文件的存储路径既能够在启动前配置，也能够经过命令动态设定。

配置：DIR配置指定目录，dbfilename指定文件名默认是Redis的根目录下的dump.rdb文件。

动态设置：Redis启动后也能够动态修改RDB存储路径，在磁盘损害或空间不足时很是有用;执行命令为config set dir {newdir}和config set dbfilename {newFileName}。以下所示（Windows环境）：

RDB文件格式

RDB文件格式以下图所示

其中各个字段的含义说明以下：

1）REDIS：常量，保存着“REDIS”5个字符。

2）db_version：RDB文件的版本号，注意不是Redis的版本号。

3）SELECTDB 0对：表示一个完整的数据库（0号数据库），同理SELECTDB 3对表示完整的3号数据库;只有当数据库中有键值对时，RDB文件中才会有该数据库的信息上图所示的Redis的中只有0号和3号数据库有键值对）;若是Redis的中全部的数据库都没有键值对，则这一部分直接省略其中：SELECTDB是一个常量，表明后面跟着的是数据库号码0和3是数据库号码;对则存储了具体的键值对信息，包括键，值值，及其数据类型，内部编码，过时时间，压缩信息等等。

4）EOF：常量，标志RDB文件正文内容结束。

5）check_sum：前面全部内容的校验和; Redis在载入RBD文件时，会计算前面的校验和并与check_sum值比较，判断文件是否损坏。

压缩

Redis的默认采用LZF算法对RDB文件进行压缩虽然压缩耗时，可是能够大大减少RDB文件的体积，所以压缩默认开启;能够经过命令关闭。：

须要注意的是，RDB文件的压缩并非针对整个文件进行的，而是对数据库中的字符串进行的，且只有在字符串达到必定长度（20字节）时才会进行。

4.启动时加载

RDB文件的载入工做是在服务器启动时自动执行的，并无专门的命令可是因为AOF的优先级更高，所以当AOF开启时，Redis的会优先载入AOF文件来恢复数据;只有当AOF关闭时，才会在Redis的服务器启动时检测RDB文件，并自动载入。服务器载入RDB文件期间处于阻塞状态，直到载入完成为止。

Redis的启动日志中能够看到自动载入的执行：

Redis的载入RDB文件时，会对RDB文件进行校验，若是文件损坏，则日志中会打印错误，Redis的启动失败。

5. RDB经常使用配置总结

下面是RDB经常使用的配置项，以及默认值;前面介绍过的这里再也不详细介绍。

• save mn：bgsave自动触发的条件;若是没有save mn配置，至关于自动的RDB持久化关闭，不过此时仍能够经过其余方式触发
• stop-writes-on-bgsave-error yes：当bgsave出现错误时，Redis是否中止执行写命令;设置为yes，则当硬盘出现问题时，能够及时发现，避免数据的大量丢失;设置为no，则Redis的无视bgsave的错误继续执行写命令，当对Redis的服务器的系统（尤为是硬盘）使用了监控时，该选项考虑设置为无
• rdbcompression是：是否开启RDB文件压缩
• rdbchecksum是：是否开启RDB文件的校验，在写入文件和读取文件时都起做用;关闭checksum在写入文件和启动文件时大约能带来10％的性能提高，可是数据损坏时没法发现
• dbfilename dump.rdb：RDB文件名
• 目录./:RDB文件和AOF文件所在目录

四，AOF持久化

RDB持久化是将进程数据写入文件，而AOF持久化（即Append Only File持久化），则是将Redis执行的每次写命令记录到单独的日志文件中（有点像MySQL的binlog）;当Redis的重启时再次执行AOF文件中的命令来恢复数据。

与RDB相比，AOF的实时性更好，所以已成为主流的持久化方案。

1.开启AOF

Redis的服务器默认开启RDB，关闭AOF;要开启AOF，须要在配置文件中配置：

appendonly是的

2.执行流程

因为须要记录的Redis的每条写命令，所以AOF不须要触发，下面介绍AOF的执行流程。

AOF的执行流程包括：

• 命令追加（附加）：将Redis的的写命令追加到缓冲区aof_buf;
• 文件写入（写入）和文件同步（同步）：根据不一样的同步策略将aof_buf中的内容同步到硬盘;
• 文件重写（改写）：按期重写AOF文件，达到压缩的目的。

1）命令追加（append）

的Redis先将写命令追加到缓冲区，而不是直接写入文件，主要是为了不每次有写命令都直接写入硬盘，致使硬盘IO成为Redis的负载的瓶颈。

命令追加的格式是Redis的命令请求的协议格式，它是一种纯文本格式，具备兼容性好，可读性强，容易处理，操做简单避免二次开销等优势;具体格式略在AOF文件中，除了用于指定数据库的select命令（如select 0为选中0号数据库）是由Redis添加的，其余都是客户端发送来的写命令。

2）文件写入（写入）和文件同步（sync）

Redis的提供了多种AOF缓存区的同步文件策略，策略涉及到操做系统的编写函数和FSYNC函数，说明以下：

为了提升文件写入效率，在现代操做系统中，当用户调用写函数将数据写入文件时，操做系统一般会将数据暂存到一个内存缓冲区里，当缓冲区被填满或超过了指定时限后，才真正将缓冲区的数据写入到硬盘里这样的操做虽然提升了效率，但也带来了安全问题：若是计算机停机，内存缓冲区中的数据会丢失;所以系统同时提供了FSYNC，fdatasync等同步函数，能够强制操做系统马上将缓冲区中的数据写入到硬盘里，从而确保数据的安全性。

AOF缓存区的同步文件策略由参数appendfsync控制，各个值的含义以下：

• 老是：命令写入aof_buf后当即调用系统的fsync操做同步到AOF文件，FSYNC完成后线程返回这种状况下，每次有写命令都要同步到AOF文件，硬盘IO成为性能瓶颈，Redis的只能支持大约几百TPS写入，严重下降了的Redis的性能;即使是使用固态硬盘（SSD），每秒大约也只能处理几万个命令，并且会大大下降SSD的寿命。
• 无：命令写入aof_buf后调用系统写操做，不对AOF文件作FSYNC同步;同步由操做系统负责，一般同步周期为30秒这种状况下，文件同步的时间不可控，且缓冲区中堆积的。数据会不少，数据安全性没法保证。若是以为本文有用，能够加个人群：619881427学习更多的Java架构技术知识，包括分布式架构，微服务架构，性能优化，源码分析等，已经有小伙伴录制好视频免费分享给新加入进来的朋友。
• everysec：命令写入aof_buf后调用系统写操做，写完成后线程返回; FSYNC同步文件操做由专门的线程每秒调用一次everysec是前述两种策略的折中，是性能和数据安全性的平衡，所以是Redis的的默认配置，也是咱们推荐的配置。

3）文件重写（重写）

随着时间流逝，Redis的服务器执行的写命令愈来愈多，AOF文件也会愈来愈大;过大的AOF文件不只会影响服务器的正常运行，也会致使数据恢复须要的时间过长。

文件重写是指按期重写AOF文件，减少AOF文件的体积。须要注意的是，AOF重写是把Redis进程内的数据转化为写命令，同步到新的AOF文件;不会对旧的AOF文件进行任何读取，写入操做！

关于文件重写须要注意的另外一点是：对于AOF持久化来讲，文件重写虽然是强烈推荐的，但并非必须的;即便没有文件重写，数据也能够被持久化并在Redis的启动的时候导入;所以在一些实现中，会关闭自动的文件重写，而后经过定时任务在天天的某一时刻定时执行。

文件重写之因此可以压缩AOF文件，缘由在于：

• 过时的数据再也不写入文件
• 无效的命令再也不写入文件：若有些数据被重复设值（set mykey v1，set mykey v2），有些数据被删除了（sadd myset v1，del myset）等等
• 多条命令能够合并为一个：如sadd myset v1，sadd myset v2，sadd myset v3能够合并为sadd myset v1 v2 v3。不过为了防止单条命令过大形成客户端缓冲区溢出，对于list，set，hash， zset类型的键时，并不必定只使用一条命令;而是以某个常量为界将命令拆分为多条这个常量在redis.h / REDIS_AOF_REWRITE_ITEMS_PER_CMD中定义，不可更改，3.0版本中值是64。

经过上述内容能够看出，因为重写后AOF执行的命令减小了，文件重写既能够减小文件占用的空间，也能够加快恢复速度。

文件重写的触发

文件重写的触发，分为手动触发和自动触发：

手动触发：直接调用bgrewriteaof命令，该命令的执行与bgsave有些相似：都是叉子进程进行具体的工做，且都只有在叉时阻塞。

此时服务器执行日志以下：

自动触发：根据自动AOF重写分钟尺寸和自动AOF重写百分比参数，以及aof_current_size和aof_base_size状态肯定触发时机。

• 自动AOF重写分钟尺寸：执行AOF重写时，文件的最小体积，默认值为64MB。
• 自动AOF重写百分比：执行AOF重写时，当前AOF大小（即aof_current_size）和上一次重写时AOF大小（aof_base_size）的比值。

其中，参数能够经过配置获取命令查看：

状态能够经过info persistence查看：

只有当自动AOF重写分钟尺寸和自动AOF重写百分比两个参数同时知足时，才会自动触发AOF重写，即bgrewriteaof操做。

自动触发bgrewriteaof时，能够看到服务器日志以下：

文件重写的流程

文件重写流程以下图所示：

关于文件重写的流程，有两点须要特别注意：（1）重写由父进程叉子进程进行;（2）重写期间Redis的执行的写命令，须要追加到新的AOF文件中，为此Redis的引入了aof_rewrite_buf缓存。

对照上图，文件重写的流程以下：

1）Redis父进程首先判断当前是否存在正在执行bgsave / bgrewriteaof的子进程，若是存在则bgrewriteaof命令直接返回，若是存在bgsave命令则等bgsave执行完成后再执行。前面曾介绍过，这个主要是基于性能方面的考虑。

2）父进程执行fork操做建立子进程，这个过程当中父进程是阻塞的。

3.1）父进程fork后，bgrewriteaof命令返回“后台只附加文件重写”信息并再也不阻塞父进程，并能够响应其余命令。Redis的全部写命令依然写入AOF缓冲区，并根据appendfsync策略同步到硬盘，保证原有AOF机制的正确。

3.2）因为fork操做使用写时复制技术，子进程只能共享fork操做时的内存数据。因为父进程依然在响应命令，所以Redis使用AOF重写缓冲区（图中的aof_rewrite_buf）保存这部分数据，防止新AOF文件生成期间丢失这部分数据。也就是说，bgrewriteaof执行期间，Redis的的写命令同时追加到aof_buf和aof_rewirte_buf两个缓冲区。

4）子进程根据内存快照，按照命令合并规则写入到新的AOF文件。

5.1）子进程写完新的AOF文件后，向父进程发信号，父进程更新统计信息，具体能够经过信息持久查看。

5.2）父进程把AOF重写缓冲区的数据写入新的AOF文件，这样就保证了新AOF文件所保存的数据库状态和服务器当前状态一致。

5.3）使用新的AOF文件替换老文件，完成AOF重写。

3.启动时加载

前面提到过，当AOF开启时，Redis的启动时会优先载入AOF文件来恢复数据;只有当AOF关闭时，才会载入RDB文件恢复数据。

当AOF开启，且AOF文件存在时，Redis的启动日志：

当AOF开启，但AOF文件不存在时，即便RDB文件存在也不会加载（更早的一些版本可能会加载，但3.0不会），Redis的启动日志以下：

文件校验

与载入RDB文件相似，Redis的载入AOF文件时，会对AOF文件进行校验，若是文件损坏，则日志中会打印错误，Redis的启动失败。但若是是AOF文件结尾不完整（机器忽然宕机等容易致使文件尾部不完整），且AOF负荷截短的参数开启，则日志中会输出警告，Redis的忽略掉AOF文件的尾部，启动成功.aof负荷截短的参数默认是开启的：

伪客户端

由于Redis的的命令只能在客户端上下文中执行，而载入AOF文件时命令是直接从文件中读取的，并非由客户端发送;所以Redis的服务器在载入AOF文件以前，会建立一个没有网络链接的客户端，以后用它来执行AOF文件中的命令，命令执行的效果与带网络链接的客户端彻底同样。

4. AOF经常使用配置总结

下面是AOF经常使用的配置项，以及默认值;前面介绍过的这里再也不详细介绍。

• appendonly no：是否开启AOF
• appendfilename“appendonly.aof”：AOF文件名
• 目录./:RDB文件和AOF文件所在目录
• appendfsync everysec：fsync持久化策略
• no-appendfsync-on-rewrite no：AOF重写期间是否禁止fsync;若是开启该选项，能够减轻文件重写时CPU和硬盘的负载（尤为是硬盘），可是可能会丢失AOF重写期间的数据;须要在负载和安全性之间进行平衡
• auto-aof-rewrite-percentage 100：文件重写触发条件之一
• auto-aof-rewrite-min-size 64mb：文件重写触发提交之一
• aof-load-truncated是：若是AOF文件结尾损坏，Redis启动时是否仍载入AOF文件

五，方案选择与常见问题

前面介绍了RDB和AOF两种持久化方案的细节，下面介绍RDB和AOF的特色，如何选择持久化方案，以及在持久化过程当中常遇到的问题等。

1. RDB和AOF的优缺点

RDB和AOF各有优缺点：

RDB持久化

优势：RDB文件紧凑，体积小，网络传输快，适合全量复制;恢复速度比AOF快不少固然，与AOF相比，RDB最重要的优势之一是对性能的影响相对较小。

缺点：RDB文件的致命缺点在于其数据快照的持久化方式决定了必然作不到实时持久化，而在数据愈来愈重要的今天，数据的大量丢失不少时候是没法接受的，所以AOF持久化成为主流。此外，RDB文件须要知足特定格式，兼容性差（如老版本的Redis的不兼容新版本的RDB文件）。

AOF持久化

与RDB持久化相对应，AOF的优势在于支持秒级持久化，兼容性好，缺点是文件大，恢复速度慢，对性能影响大。

2.持久化策略选择

在介绍持久化策略以前，首先要明白不管是RDB仍是AOF，持久化的开启都是要付出性能方面代价的：对于RDB持久化，一方面是bgsave在进行叉操做时Redis的主进程会阻塞，另外一方面，子进程向硬盘写数据也会带来IO压力;对于AOF持久化，向硬盘写数据的频率大大提升（everysec策略下为秒级），IO压力更大，甚至可能形成AOF追加阻塞问题（后面会详细介绍这种阻塞），此外，AOF文件的重写与RDB的bgsave相似，会有叉时的阻塞和子进程的IO压力问题。相对来讲，因为AOF向硬盘中写数据的频率更高，所以对Redis的主进程性能的影响会更大。

在实际生产环境中，根据数据量，应用对数据的安全要求，预算限制等不一样状况，会有各类各样的持久化策略;如彻底不使用任何持久化，使用RDB或AOF的一种，或同时开启RDB和AOF持久化等。此外，持久化的选择必须与Redis的的主从策略一块儿考虑，由于主从复制与持久化一样具备数据备份的功能，并且主机主和从机的从能够独立的选择持久化方案。

下面分场景来讨论持久化策略的选择，下面的讨论也只是做为参考，实际方案可能更复杂更具多样性。

（1）若是Redis的中的数据彻底丢弃也没有关系（如Redis的彻底用做DB层数据的高速缓冲存储器），那么不管是单机，仍是主从架构，均可以不进行任何持久化。

（2）在单机环境下（对于我的开发者，这种状况可能比较常见），若是能够接受十几分钟或更多的数据丢失，选择RDB对Redis的的性能更加有利;若是只能接受秒级别的数据丢失，应该选择AOF。

（3）但在多数状况下，咱们都会配置主从环境，从站的存在既能够实现数据的热备，也能够进行读写分离分担Redis的读请求，以及在主宕掉后继续提供服务。

在这种状况下，一种可行的作法是：

主：彻底关闭持久化（包括RDB和AOF），这样可让主的性能达到最好

从属：关闭RDB，开启AOF（若是对数据安全要求不高，开启RDB关闭AOF也能够），并定时对持久化文件进行备份（如备份到其余文件夹，并标记好备份的时间）;而后关闭AOF的自动重写，而后添加定时任务，在天天的Redis闲时（如凌晨12点）调用bgrewriteaof。

这里须要解释一下，为何开启了主从复制，能够实现数据的热备份，还须要设置持久化呢由于在一些特殊状况下，主从复制仍然不足以保证数据的安全，例如？

• 主和从属进程同时中止：考虑这样一种场景，若是主从机和在同一栋大楼或同一个机房​​，则一次停电事故就可能致使主和从机器同时关机，Redis的进程中止;若是没有持久化，则面临的是数据的彻底丢失。
• 主误重启：考虑这样一种场景，主服务由于故障宕掉了，若是系统中有自动拉起机制（即检测到服务中止后重启该服务）将主自动重启，因为没有持久化文件，那么主重启后数据是空的，从同步数据也变成了空的;若是主和从站都没有持久化，一样会面临数据的彻底丢失须要注意的是，即使是使用了哨兵（关于哨兵后面会有文章介绍）进行自动的主从切换，也有可能在哨兵轮询到主以前，便被自动拉起机制重启了。所以，应尽可能避免“自动拉起机制”和“不作持久化”同时出现。

（4）异地灾备：上述讨论的几种持久化策略，针对的都是通常的系统故障，如进程异常退出，宕机，断电等，这些故障不会损坏硬盘可是对于一些可能致使硬盘损坏的灾难状况，如火灾地震，就须要进行异地灾备例如对于单机的情形，能够定时将RDB文件或重写后的AOF文件，经过SCP拷贝到远程机器，如阿里云，AWS等;对于主从的情形，能够定时在主上执行bgsave，而后将RDB文件拷贝到远程机器，或者在从机上执行bgrewriteaof重写AOF文件后，将AOF文件拷贝到远程机器上。通常来讲，因为RDB文件文件小，恢复快，所以灾难恢复经常使用RDB文件;异地备份的频率根据数据安全性的须要及其余条件来肯定，但最好不要低于一天一次。

3. fork阻塞：CPU的阻塞

在Redis的的实践中，众多因素限制了Redis的单机的内存不能过大，例如：

• 当面对请求的暴增，须要从库扩容时，Redis的内存过大会致使扩容时间太长;
• 当主机宕机时，切换主机后须要挂载从库，Redis的内存过大致使挂载速度过慢;
• 以及持久化过程当中的叉操做，下面详细说明。

首先说明一下叉操做：

父进程经过叉操做能够建立子进程;子进程建立后，父子进程共享代码段，不共享进程的数据空间，可是子进程会得到父进程的数据空间的副本在操做系统叉的实际实现中，基本都采用了写时复制技术，即在父/子进程试图修改数据空间以前，父子进程实际上共享数据空间;可是当父/子进程的任何一个试图修改数据空间时，操做系统会为修改的那一部分（内存的一页）制做一个副本。

虽然叉时，子进程不会复制父进程的数据空间，可是会复制内存页表（页表至关于内存的索引，目录）;父进程的数据空间越大，内存页表越大，叉时复制耗时也会越多。

在Redis的中，不管是RDB持久化的bgsave，仍是AOF重写的bgrewriteaof，都须要叉出子进程来进行操做若是Redis的内存过大，会致使叉操做时复制内存页表耗时过多;而Redis的主进程在进行叉时，是彻底阻塞的，也就意味着没法响应客户端的请求，会形成请求延迟过大。

对于不一样的硬件，不一样的操做系统，叉操做的耗时会有所差异，通常来讲，若是Redis的单机内存达到了10GB，叉时耗时可能会达到百毫秒级别（若是使用的Xen虚拟机，这个耗时可能达到秒级别）所以，通常来讲Redis的单机内存通常要限制在10GB之内;不过这个数据并非绝对的，能够经过观察线上环境叉的耗时来进行调整观察的方法以下。：执行命令信息统计，查看latest_fork_usec的值，单位为微秒。

为了减轻叉操做带来的阻塞问题，除了控制Redis的单机内存的大小之外，还能够适度放宽AOF重写的触发条件，选用物理机或高效支持叉操做的虚拟化技术等，例如使用的Vmware或KVM虚拟机，不要使用Xen的虚拟机。

4. AOF追加阻塞：硬盘的阻塞

前面提到过，在AOF中，若是AOF缓冲区的文件同步策略为everysec，则：在主线程中，命令写入aof_buf后调用系统写操做，写完成后主线程返回; FSYNC同步文件操做由专门的文件同步线程每秒调用一次。

这种作法的问题在于，若是硬盘负载太高，那么FSYNC操做可能会超过1秒;若是Redis的主线程持续高速向aof_buf写入命令，硬盘的负载可能会愈来愈大，IO资源消耗更快;若是此时Redis的进程异常退出，丢失的数据也会愈来愈多，可能远超过1秒。

为此，Redis的的处理策略是这样的：主线程每次进行AOF会对比上次FSYNC成功的时间;若是距上次不到2秒，主线程直接返回;若是超过2秒，则主线程阻塞直到FSYNC同步完成所以，若是系统硬盘负载过大致使的fsync速度太慢，会致使Redis的主线程的阻塞;此外，使用everysec配置，AOF最多可能丢失2S的数据，而不是1秒。

AOF追加阻塞问题定位的方法：

（1）监控信息持续中的aof_delayed_fsync：当AOF追加阻塞发生时（即主线程等待fsync而阻塞），该指标累加。

（2）AOF阻塞时的Redis的日志：

异步AOF fsync耗时过长（磁盘忙？）。在不等待fsync完成的状况下编写AOF缓冲区，这可能会减慢Redis速度。

（3）若是AOF追加阻塞频繁发生，说明系统的硬盘负载太大;能够考虑更换IO速度更快的硬盘，或者经过IO监控分析工具对系统的IO负载进行分析，如iostat的（系统级IO）， iotop（IO版的顶部），pidstat等。

5.信息命令与持久化

前面提到了一些经过信息命令查看持久化相关状态的方法，下面来总结一下。

（1）信息持久性

执行结果以下：

其中比较重要的包括：

• rdb_last_bgsave_status：上次bgsave执行结果，能够用于发现bgsave错误
• rdb_last_bgsave_time_sec：上次bgsave执行时间（单位是多个），能够用于发现bgsave是否耗时过长
• aof_enabled：AOF是否开启
• aof_last_rewrite_time_sec：上次文件重写执行时间（单位是s），能够用于发现文件重写是否耗时过长
• aof_last_bgrewrite_status：上次bgrewrite执行结果，能够用于发现bgrewrite错误
• aof_buffer_length和aof_rewrite_buffer_length：AOF缓存区大小和AOF重写缓冲区大小
• aof_delayed_fsync：AOF追加阻塞状况的统计

（2）信息统计

其中与持久化关系较大的是：latest_fork_usec，表明上次叉耗时，能够参见前面的讨论。

六，总结

本文主要内容能够总结以下：

1，持久化在Redis的高可用中的做用：数据备份，与主从复制相比强调的是由内存到硬盘的备份。

2，RDB持久化：将数据快照备份到硬盘;介绍了其触发条件（包括手动出发和自动触发），执行流程，RDB文件等，特别须要注意的是文件保存操做由叉出的子进程来进行。若是以为本文有用，能够加个人群：619881427学习更多的Java架构技术知识，包括分布式架构，微服务架构，性能优化，源码分析等，已经有小伙伴录制好视频免费分享给新加入进来的朋友。

3，AOF持久化：将执行的写命令备份到硬盘（相似于MySQL的二进制日志的），介绍了其开启方法，执行流程等，特别须要注意的是文件同步策略的选择（everysec），文件重写的流程。

4，一些现实的问题：包括如何选择持久化策略，以及须要注意的叉阻塞，AOF追加阻塞等。

5，分布式高可用架构的学习视频能够在个人群619881427免费获取。