理解分布式系统中的缓存架构(下)

做者 陈彩华
文章转载交流请联系 caison@aliyun.com
复制代码

承接上一篇《理解分布式系统中的缓存架构(上)》，介绍了大型分布式系统中缓存的相关理论，常见的缓存组件以及应用场景，本文主要介绍缓存架构设计常见问题以及解决方案，业界案例。

1 分层缓存架构设计

2 缓存带来的复杂度问题

常见的问题主要包括

• 数据一致性
• 缓存穿透
• 缓存雪崩
• 缓存高可用
• 缓存热点 下面逐一介绍分析这些问题以及相应的解决方案。

数据一致性

由于缓存属于持久化数据的一个副本，所以不可避免的会出现数据不一致问题。致使脏读或读不到数据的状况。数据不一致，通常是由于网络不稳定或节点故障致使

问题出现的常见3个场景以及解决方案：

缓存穿透

缓存通常是Key，value方式存在，当某一个Key不存在时会查询数据库，假如这个Key，一直不存在，则会频繁的请求数据库，对数据库形成访问压力。

主要解决方案：

• 对结果为空的数据也进行缓存，当此key有数据后，清理缓存
• 必定不存在的key，采用布隆过滤器，创建一个大的Bitmap中，查询时经过该bitmap过滤

缓存雪崩

缓存高可用

缓存是否高可用，须要根据实际的场景而定，并非全部业务都要求缓存高可用，须要结合具体业务，具体状况进行方案设计，例如临界点是是否对后端的数据库形成影响。

主要解决方案：

• 分布式：实现数据的海量缓存
• 复制：实现缓存数据节点的高可用

缓存热点

一些特别热点的数据，高并发访问同一份缓存数据，致使缓存服务器压力过大。

解决：复制多份缓存副本，把请求分散到多个缓存服务器上，减轻缓存热点致使的单台缓存服务器压力

3 业界案例

案例主要参考新浪微博陈波的技术分享

技术挑战

Feed缓存架构图

架构特色

新浪微博把SSD应用在分布式缓存场景中，将传统的Redis/MC + Mysql方式，扩展为 Redis/MC + SSD Cache + Mysql方式，SSD Cache做为L2缓存使用，第一下降了MC/Redis成本太高，容量小的问题，也解决了穿透DB带来的数据库访问压力

主要在数据架构、性能、储存成本、服务化等不一样方面进行了优化加强

更多精彩，欢迎关注做者公众号【分布式系统架构】

参考

从0开始学架构 —— Alibaba 李运华

Java核心技术36讲—— Oracle 杨晓峰

微博Cache架构设计实践 —— 陈波

缓存在大型分布式系统中的最佳应用 —— 侯忠好

缓存，并发更新的大坑？ —— 58沈剑

分布式缓存设计—— crossoverJie