大型网站架构系列：缓存在分布式系统中的应用（三）

本文是《缓存在分布式系统中的应用》第三篇文章。

上次主要给你们分享了，缓存在分布式系统中的应用，主要从不一样的场景，介绍了CDN，反向代理，分布式缓存，本地缓存的常规架构和基本原理。

由于时间关于，原计划分享《缓存常见问题》的内容，没有讲。本次主要针对缓存的常见个问题，作一个介绍。主要有如下议题：

1、分享大纲

1. 分享大纲
2. 数据一致性
3. 缓存高可用
4. 缓存雪崩
5. 缓存穿透
6. 参考资料
7. 分享总结

2、数据一致性

缓存是在数据持久化以前的一个节点，主要是将热点数据放到离用户最近或访问速度更快的介质中，加快数据的访问，减少响应时间。

由于缓存属于持久化数据的一个副本，所以不可避免的会出现数据不一致问题。致使脏读或读不到数据的状况。数据不一致，通常是由于网络不稳定或节点故障致使。根据数据的操做顺序，主要有如下几种状况。

2.1场景介绍

（1）先写缓存，再写数据库

         以下图：

 

假如缓存写成功，但写数据库失败或响应延迟，则下次读取（并发读）缓存时，就出现脏读；

 

（2）先写数据库，再写缓存

         以下图：

        

         假如写数据库成功，但写缓存失败，则下次读取（并发读）缓存时，则读不到数据；

 

（3）缓存异步刷新

         指数据库操做和写缓存不在一个操做步骤中，好比在分布式场景下，没法作到同时写缓存或须要异步刷新（补救措施）时候。

 

         此种状况，主要考虑数据写入和缓存刷新的时效性。好比多久内刷新缓存，不影响用户对数据的访问。

2.2解决方法

第一个场景：

这个写缓存的方式，自己就是错误的，须要改成先写持久化介质，再写缓存的方式。

第二个场景：

（1）根据写入缓存的响应来进行判断，若是缓存写入失败，则回滚数据库操做；此种方法增长了程序的复杂度，不建议采用；

（2）缓存使用时，假如读缓存失败，先读数据库，再回写缓存的方式实现。

第三个场景：

（1）首先肯定，哪些数据适合此类场景；

（2）根据经验值肯定合理的数据不一致时间，用户数据刷新的时间间隔；

2.3 其余方法

（1）超时：设置合理的超时时间；

（2）刷新：定时刷新必定范围内（根据时间，版本号）的数据；

 

         以上是简化数据读写场景，实际中会分为：

         （1）缓存与数据库之间的一致性；

         （2）多级缓存以前的一致性；

         （3）缓存副本以前的一致性。

3、缓存高可用

业界有两种理论，第一套缓存就是缓存，临时存储数据的，不须要高可用。第二种缓存逐步演化为重要的存储介质，须要作高可用。

本人的见解是，缓存是否高可用，须要根据实际的场景而定。临界点是是否对后端的数据库形成影响。

具体的决策依据须要根据，集群的规模（数据，缓存），成本（服务器，运维），系统性能（并发量，吞吐量，响应时间）等方面综合评价。

3.1解决方法

         缓存的高可用，通常经过分布式和复制实现。分布式实现数据的海量缓存，复制实现缓存数据节点的高可用。架构图以下：

        

         其中，分布式采用一致性Hash算法，复制采用异步复制。

3.2其余方法

（1）复制双写：缓存节点的复制，由异步改成双写，只有两份都写成功，才算成功。

（2）虚拟层：一致性Hash存在，假如其中一个HASH环不可用，数据会写入临近的环，当HASH可用时，数据又写入正常的HASH环，会致使数据偏移问题。这种状况，能够考虑在HASH环前面加一个虚拟层实现。

（3）多级缓存：好比一级使用本地缓存，二级采用分布式Cahce，三级采用分布式Cache+本地持久化；

 

         方式不少，须要根据业务场景灵活选择。

4、缓存雪崩

         雪崩是指当大量缓存失效时，致使大量的请求访问数据库，致使数据库服务器，没法抗住请求或挂掉的状况。

         解决方法：

         （1）合理规划缓存的失效时间；

         （2）合理评估数据库的负载压力；

         （3）对数据库进行过载保护或应用层限流；

         （4）多级缓存设计，缓存高可用；

5、缓存穿透

         缓存通常是Key，value方式存在，当某一个Key不存在时会查询数据库，假如这个Key，一直不存在，则会频繁的请求数据库，对数据库形成访问压力。

解决方法：

（1）对结果为空的数据也进行缓存，当此key有数据后，清理缓存；

（2）必定不存在的key，采用布隆过滤器，创建一个大的Bitmap中，查询时经过该bitmap过滤；

6、参考资料

如下是本次分享参考的资料和推荐你们参考的资料。

 

MemCache超详细解读：http://www.mamicode.com/info-detail-1120932.html

缓存与数据库一致性保证：http://www.36dsj.com/archives/43950

HASH环和虚拟节点：http://www.111cn.net/sys/linux/58748.htm

让memcached分布式：http://blog.csdn.net/cutesource/article/details/5848253

7、分享总结

以上是本周的分享，主要讲解了缓存常见的问题，包括数据一致性，缓存高可用，缓存雪崩，缓存穿透等知识。 

咱们的分享只是介绍一下知识结构，但愿能够起到一个抛砖引玉的做用。由于，每一个知识点都有一些细化的地方，须要学习的知识点不少，须要你们不断深刻学习。也欢迎你们把好的内容，即时的分享到群内（知识连接或参加周知识分享，参加周知识分享的同窗能够直接联系我哈~~）

下次分享《分布式系统服务化架构（一）》，2016年6月26日。

本次是分享规则调整后的第一次，欢迎你们积极提出问题。