设计缓存系统该注意的问题

分布式缓存对应于CPU的模型有以下的关系,咱们知道,CPU跟内存的关系中间还有三级高速缓存L1,L2,L3.L1最靠近CPU内核,CPU在进行数据处理的时候通常是先把内存的数据复制到L1中进行处理,把处理结果恢复到内存中,因此多CPU多线程中会有数据复制不一致的问题.

而对应于分布式缓存系统中,有着与之对应的关系(寄存器-本地内存,L1缓存-本地内存,L2缓存-本地内存,L3缓存-Redis分布式缓存,内存-数据库Mysql等).

创建分布式缓存的3种方法:一、双读双写，通常写数据库，读缓存，缓存未命中，则读取数据库，再写入缓存。二、异步更新，只读写缓存，由异步的更新服务将数据库里的变动或者新增的数据更新到缓存中。三、串联模式，直接在缓存上进行读写操做，缓存做为代理，根据须要和配置与数据库进行读写操做。

缓存穿透，缓存并发，缓存雪崩

缓存穿透是指使用不存在的key进行大量的高并发查询,致使缓存没法命中,直接穿透到后端的数据库系统进行查询,使数据库压力过大,甚至压死数据库.解决办法:存储空值,过滤规则,不符合规则的访问,直接拒绝.

缓存并发,当一个key过时时,访问这个key的请求量过大,穿透到数据库.解决办法:1,分布式锁,保证每一个key同时只有一个线程去查询数据库,其余线程没有得到分布式锁的权限,只须要等待.对分布式锁的考验很大.2,本地锁,类比分布式锁,但可能会有不一样节点的线程查询数据库.3,软过时,业务层处理.

缓存雪崩,缓存服务器重启或者大量缓存集中在某一个时间段内失效,给数据库形成瞬时压力.解决办法,对不一样的数据使用不一样的失效时间,对相同的数据,不一样的请求使用不一样的失效时间,过时时间采用固定时间+随机时间,有一个范围,就能够避免缓存雪崩.