《 礼记 ·学记》:“独学而无友,则孤陋而寡闻。” 这句话,你赞同吗?node
做者:张冬洪,极数云舟数据库架构师、极数学院联合创始人、前新浪微博高级DBA、Redis中国用户组主席、阿里云MVP。微信:zhangdh1113面试
继采访 “ 对话张冬洪 | 全面解读NoSQL数据库Redis的核心技术与应用实践 ” 发出后,不少朋友向我咨询关于里面提到的高可用的方案的优缺点以及如何选择合适的方案线上使用,恰好最近在给宜人贷,光大银行作企业内训的时候也详细讲过(广告一下:极数云舟不只提供企业培训、技术咨询、解决方案,还有项目产品,欢迎勾搭~),这里我再整理发出来,供你们参考,若有不妥之处,欢迎批评指正,也欢迎推荐更好的技术方案。不废话了,来看看方案吧~redis
Redis常见的几种主要使用方式:数据库
Redis 单副本
Redis 多副本(主从)
Redis Sentinel(哨兵)
Redis Cluster
Redis 自研
Redis各类使用方式的优缺点:缓存
1服务器
Redis单副本微信
史上最全 Redis 高可用技术解决方案大全架构
Redis 单副本,采用单个Redis节点部署架构,没有备用节点实时同步数据,不提供数据持久化和备份策略,适用于数据可靠性要求不高的纯缓存业务场景。并发
优势:app
一、架构简单、部署方便
二、高性价比,当缓存使用时无需备用节点(单实例可用性能够用supervisor或crontab保证),固然为了知足业务的高可用性,也能够牺牲一个备用节点,但同时刻只有一个实例对外提供服务。
三、高性能
缺点:
一、不保证数据的可靠性
二、当缓存使用,进程重启后,数据丢失,即便有备用的节点解决高可用性,可是仍然不能解决缓存预热问题,所以不适用于数据可靠性要求高的业务。
三、高性能受限于单核CPU的处理能力(Redis是单线程机制),CPU为主要瓶颈,因此适合操做命令简单,排序、计算较少的场景。也能够考虑用memcached替代。
2
Redis多副本(主从)
史上最全 Redis 高可用技术解决方案大全
Redis 多副本,采用主从(replication)部署结构,相较于单副本而言最大的特色就是主从实例间数据实时同步,而且提供数据持久化和备份策略。主从实例部署在不一样的物理服务器上,根据公司的基础环境配置,能够实现同时对外提供服务和读写分离策略。
优势:
一、高可靠性,一方面,采用双机主备架构,可以在主库出现故障时自动进行主备切换,从库提高为主库提供服务,保证服务平稳运行。另外一方面,开启数据持久化功能和配置合理的备份策略,能有效的解决数据误操做和数据异常丢失的问题。
二、读写分离策略,从节点能够扩展主库节点的读能力,有效应对大并发量的读操做。
缺点:
一、故障恢复复杂,若是没有RedisHA系统(须要开发),当主库节点出现故障时,须要手动将一个从节点晋升为主节点,同时须要通知业务方变动配置,而且须要让其余从库节点去复制新主库节点,整个过程须要人为干预,比较繁琐。
二、主库的写能力受到单机的限制,能够考虑分片
三、主库的存储能力受到单机的限制,能够考虑Pika
四、原生复制的弊端在早期的版本也会比较突出,如:Redis复制中断后,Slave会发起psync,此时若是同步不成功,则会进行全量同步,主库执行全量备份的同时可能会形成毫秒或秒级的卡顿;又因为COW机制,致使极端状况下的主库内存溢出,程序异常退出或宕机;主库节点生成备份文件致使服务器磁盘IO和CPU(压缩)资源消耗;发送 数 GB 大小的备份文件致使服务器出口带宽暴增,阻塞请求。建议升级到最新版本。
3
Redis Sentinel(哨兵)
史上最全 Redis 高可用技术解决方案大全
史上最全 Redis 高可用技术解决方案大全
Redis Sentinel是社区版本推出的原生高可用解决方案,Redis Sentinel部署架构主要包括两部分:Redis Sentinel集群和Redis数据集群,其中Redis Sentinel集群是由若干Sentinel节点组成的分布式集群。能够实现故障发现、故障自动转移、配置中心和客户端通知。Redis Sentinel的节点数量要知足2n+1(n>=1)的奇数个。
优势:
一、Redis Sentinel集群部署简单
二、可以解决Redis主从模式下的高可用切换问题
三、很方便实现Redis数据节点的线形扩展,轻松突破Redis自身单线程瓶颈,可极大知足对Redis大容量或高性能的业务需求。
四、能够实现一套Sentinel监控一组Redis数据节点或多组数据节点
缺点:
一、部署相对Redis 主从模式要复杂一些,原理理解更繁琐
二、资源浪费,Redis数据节点中slave节点做为备份节点不提供服务
三、Redis Sentinel主要是针对Redis数据节点中的主节点的高可用切换,对Redis的数据节点作失败断定分为主观下线和客观下线两种,对于Redis的从节点有对节点作主观下线操做,并不执行故障转移。
四、不能解决读写分离问题,实现起来相对复杂
建议:
一、若是监控同一业务,能够选择一套Sentinel集群监控多组Redis数据节点的方案,反之选择一套Sentinel监控一组Redis数据节点的方案
二、sentinel monitor <master-name> <ip> <port> <quorum> 配置中的<quorum>建议设置成Sentinel节点的一半加1,当Sentinel部署在多个IDC的时候,单个IDC部署的Sentinel数量不建议超过(Sentinel数量 – quorum)。
三、合理设置参数,防止误切,控制切换灵敏度控制
quorum
down-after-milliseconds 30000
failover-timeout 180000
maxclient
timeout
四、部署的各个节点服务器时间尽可能要同步,不然日志的时序性会混乱
五、Redis建议使用pipeline和multi-keys操做,减小RTT次数,提升请求效率
六、自行搞定配置中心(zookeeper),方便客户端对实例的连接访问
4
Redis Cluster
史上最全 Redis 高可用技术解决方案大全
Redis Cluster是社区版推出的Redis分布式集群解决方案,主要解决Redis分布式方面的需求,好比,当遇到单机内存,并发和流量等瓶颈的时候,Redis Cluster能起到很好的负载均衡的目的。Redis Cluster集群节点最小配置6个节点以上(3主3从),其中主节点提供读写操做,从节点做为备用节点,不提供请求,只做为故障转移使用。Redis Cluster采用虚拟槽分区,全部的键根据哈希函数映射到0~16383个 整数槽内,每一个节点负责维护一部分槽以及槽所印映射的键值数据。
优势:
一、 无中心架构
二、 数据按照slot存储分布在多个节点,节点间数据共享,可动态调整数据分布。
三、 可扩展性,可线性扩展到1000多个节点,节点可动态添加或删除。
四、 高可用性,部分节点不可用时,集群仍可用。经过增长Slave作standby数据副本,可以实现故障自动failover,节点之间经过gossip协议交换状态信息,用投票机制完成Slave到Master的角色提高。
五、 下降运维成本,提升系统的扩展性和可用性。
缺点:
一、 Client实现复杂,驱动要求实现Smart Client,缓存slots mapping信息并及时更新,提升了开发难度,客户端的不成熟影响业务的稳定性。目前仅JedisCluster相对成熟,异常处理部分还不完善,好比常见的“max redirect exception”。
二、 节点会由于某些缘由发生阻塞(阻塞时间大于clutser-node-timeout),被判断下线,这种failover是没有必要的。
三、 数据经过异步复制,不保证数据的强一致性。
四、 多个业务使用同一套集群时,没法根据统计区分冷热数据,资源隔离性较差,容易出现相互影响的状况。
五、 Slave在集群中充当“冷备”,不能缓解读压力,固然能够经过SDK的合理设计来提升Slave资源的利用率。
六、 key批量操做限制,如使用mset、mget目前只支持具备相同slot值的key执行批量操做。对于映射为不一样slot值的key因为keys 不支持跨slot查询,因此执行mset、mget、sunion等操做支持不友好。
七、 key事务操做支持有限,只支持多key在同一节点上的事务操做,当多个key分布于不一样的节点上时没法使用事务功能。
八、 key做为数据分区的最小粒度,所以不能将一个很大的键值对象如hash、list等映射到不一样的节点。
九、 不支持多数据库空间,单机下的redis能够支持到16个数据库,集群模式下只能使用1个数据库空间,即db 0。
十、 复制结构只支持一层,从节点只能复制主节点,不支持嵌套树状复制结构。
十一、 避免产生hot-key,致使主库节点成为系统的短板。
十二、 避免产生big-key,致使网卡撑爆、慢查询等。
1三、重试时间应该大于cluster-node-time时间
1四、Redis Cluster不建议使用pipeline和multi-keys操做,减小max redirect产生的场景。
5
Redis自研 - 推荐
史上最全 Redis 高可用技术解决方案大全
史上最全 Redis 高可用技术解决方案大全
Redis 自研的高可用解决方案,主要体如今配置中心、故障探测和failover的处理机制上,一般须要根据企业业务的实际线上环境来定制化。
优势:
一、高可靠性、高可用性
二、自主可控性高
三、贴切业务实际需求,可缩性好,兼容性好
缺点:
一、实现复杂,开发成本高
二、须要创建配套的周边设施,如监控,域名服务,存储元数据信息的数据库等。
三、维护成本高
我本身收集了一些Java资料,里面就包涵了一些BAT面试资料,以及一些 Java 高并发、分布式、微服务、高性能、源码分析、JVM等技术资料
资料获取方式:请加群BAT架构技术交流群:171662117