高并发架构系列：如何解决Redis雪崩、穿透、并发等5大难题

别人用手机刷新闻、刷段子，你用手机刷知识。你会的越多，成功率就越高。

本篇分享大型网站高并发架构设计是如何解决Redis雪崩、穿透、并发等5大难题的，如下，enjoy~

缓存雪崩

数据未加载到缓存中，或者缓存同一时间大面积的失效，从而致使全部请求都去查数据库，致使数据库CPU和内存负载太高，甚至宕机。

好比一个雪崩的简单过程：

一、redis集群大面积故障

二、缓存失效，但依然大量请求访问缓存服务redis

三、redis大量失效后，大量请求转向到mysql数据库

四、mysql的调用量暴增，很快就扛不住了，甚至直接宕机

五、因为大量的应用服务依赖mysql和redis的服务，这个时候很快会演变成各服务器集群的雪崩，最后网站完全崩溃。

如何预防缓存雪崩：

1.缓存的高可用性

缓存层设计成高可用，防止缓存大面积故障。即便个别节点、个别机器、甚至是机房宕掉，依然能够提供服务，例如 Redis Sentinel 和 Redis Cluster 都实现了高可用。

2.缓存降级

能够利用ehcache等本地缓存(暂时支持)，但主要仍是对源服务访问进行限流、资源隔离（熔断）、降级等。

当访问量剧增、服务出现问题仍然须要保证服务仍是可用的。系统能够根据一些关键数据进行自动降级，也能够配置开关实现人工降级，这里会涉及到运维的配合。

降级的最终目的是保证核心服务可用，即便是有损的。

好比推荐服务中，不少都是个性化的需求，假如个性化需求不能提供服务了，能够降级补充热点数据，不至于形成前端页面是个大空白。

在进行降级以前要对系统进行梳理，好比：哪些业务是核心(必须保证)，哪些业务能够允许暂时不提供服务(利用静态页面替换)等，以及配合服务器核心指标，来后设置总体预案，好比：

（1）通常：好比有些服务偶尔由于网络抖动或者服务正在上线而超时，能够自动降级；

（2）警告：有些服务在一段时间内成功率有波动（如在95~100%之间），能够自动降级或人工降级，并发送告警；

（3）错误：好比可用率低于90%，或者数据库链接池被打爆了，或者访问量忽然猛增到系统能承受的最大阀值，此时能够根据状况自动降级或者人工降级；

（4）严重错误：好比由于特殊缘由数据错误了，此时须要紧急人工降级。

3.Redis备份和快速预热

1)Redis数据备份和恢复

2)快速缓存预热

4.提早演练

最后，建议仍是在项目上线前，演练缓存层宕掉后，应用以及后端的负载状况以及可能出现的问题，对高可用提早预演，提早发现问题。

缓存穿透

缓存穿透是指查询一个一不存在的数据。例如：从缓存redis没有命中，须要从mysql数据库查询，查不到数据则不写入缓存，这将致使这个不存在的数据每次请求都要到数据库去查询，形成缓存穿透。

解决思路：

若是查询数据库也为空，直接设置一个默认值存放到缓存，这样第二次到缓冲中获取就有值了，而不会继续访问数据库。设置一个过时时间或者当有值的时候将缓存中的值替换掉便可。

能够给key设置一些格式规则，而后查询以前先过滤掉不符合规则的Key。

缓存并发

这里的并发指的是多个redis的client同时set key引发的并发问题。其实redis自身就是单线程操做，多个client并发操做，按照先到先执行的原则，先到的先执行，其他的阻塞。固然，另外的解决方案是把redis.set操做放在队列中使其串行化，必须的一个一个执行。

缓存预热

缓存预热就是系统上线后，将相关的缓存数据直接加载到缓存系统。

这样就能够避免在用户请求的时候，先查询数据库，而后再将数据缓存的问题！用户直接查询事先被预热的缓存数据！

解决思路：

一、直接写个缓存刷新页面，上线时手工操做下；

二、数据量不大，能够在项目启动的时候自动进行加载；

目的就是在系统上线前，将数据加载到缓存中。

以上就是缓存雪崩、预热、降级等的介绍，更多总体从服务器雪崩的角度，参考个人往期文章：阿里P8架构师谈：什么是缓存雪崩？服务器雪崩的场景与解决方案

以为不错请点赞支持，欢迎留言或进个人我的群855801563领取【架构资料专题目合集90期】、【BATJTMD大厂JAVA面试真题1000+】，本群专用于学习交流技术、分享面试机会，拒绝广告，我也会在群内不按期答题、探讨。