缓存性能提高的3个决定性要素!

缓存是架构设计中一个重要的手段,它的技术比较简单,同时对性能提高又有特别显著的效果,在不少地方都会用到。使用缓存须要注意3个关键因素,它们决定了缓存的有效性、缓存的使用效率、缓存实现的效果:算法

一、缓存键集合大小数据库

二、缓存空间的大小缓存

三、缓存的使用寿命微信

阅读本篇文章将使用5分钟的时间,帮你提高缓存命中率。架构

0.什么是缓存的命中率?

缓存的主要特色是一次写入屡次读出,经过这种手段减小对数据库的使用,尽快从缓存中读取数据,提升性能。因此缓存是否有效,主要就是看它一次写进去的缓存能不可以屡次去读出来响应业务的请求,这个指标就叫作缓存的命中率。缓存命中率怎么算呢?查询获得正确缓存结果去比上总的查询次数,获得的指标就是缓存命中率,好比说十次查询九次都可以获得缓存的正确结果,他的命中率就是90%。分布式

影响缓存命中率的主要因素有三个,分别是缓存键集合的大小、内存空间大小和缓存的寿命。性能

1.缓存键的集合大小。

缓存中的每一个对象都是经过缓存键进行识别的。好比咱们拿到key、value结构,key是字符串abc,value是字符串hello,abc就是其中的一个缓存键。键是缓存中惟一的识别符,定位一个对象的惟一方式就是对缓存键进行精确的匹配。网站

好比咱们想缓存每一个商品的在线商品信息,就须要使用商品ID做为缓存键。换句话说,缓存键空间是你的应用可以生成的全部键的数量。从统计数字上看,应用生成的惟一键越多,重用的机会越小。好比说根据IP地址缓存天气数据,可能须要40多亿个键。可是若是基于国家缓存天气数据,那么只须要几百个缓存键就够了,全世界也不过就几百个国家。架构设计

因此要尽量减小缓存键的数量,键的数量越少,缓存的效率越高。设计缓存的时候要关注缓存键是如何进行设计的,它的整个的集合范围,限定在一个既可以高效使用,又能够减小它的数量,这个时候缓存的性能是最好的。设计

2.缓存可用空间的内存大小

缓存可使用的内存空间决定了缓存对象平均大小和缓存对象的数量。由于缓存一般是存储在内存中的,缓存对象可用的内存空间相对来讲比较昂贵,并且受到严格限制。

若是想缓存更多的对象,就须要先删除老的对象,再添加新的对象。而这些老的对象被删除掉,就会影响到缓存的命中率。因此物理上缓存的空间越大,缓存的对象越多,缓存的命中率也就越高。

3.缓存对象的生存时间

缓存对象的生存时间称为TTL。

对象缓存的时间越长,被重用的可能性就越高。使缓存失效的方法有两种:

1)超时失效

超时失效是在构建缓存,也就是在写缓存的时候,每一个缓存对象都设置一个超时时间,在超时以前访问缓存就会返回缓存的数据,而一旦超时缓存就失效了,这时候再访问缓存,就会返回空。

2)实时清除

而实时清除是说,当有缓存对象更新的时候,直接通知缓存将已经被更新了的数据进行清除。清除了之后,应用程序下一次访问这个缓存对象键的时候,由于缓存已经清除了,不得不到数据库中去查找读取,这个时候就会获得最新的数据。由于更新老是更新在数据库里的。

还有一种虽然时间上尚未失效,可是新的对象要写入缓存,而内存空间不够了,这个时候就须要将一些老的缓存对象清理掉,为新的缓存对象腾出空间。

内存空间清除主要使用的算法是LRU算法,LRU算法就是最近最久未用算法。清除的时候,去清除那些最近最久没有被访问过的对象,这个算法使用链表结构实现的。全部的缓存对象都放在同一个链表上。当一个对象被访问的时候,就把这个对象移到整个链表的头部。当须要经过LRU算法清除那些最近最久未用对象的时候,只须要从队列的尾部进行查找,越是在队列尾部的越是最近最久没有被访问过的,优先清除的,腾出的内存空间让新对象加入进来。

以上3个条件即为决定缓存命中率的关键要素,熟练掌握后,会对缓存有更深的理解。

以上内容摘取自拉勾

《阿里前辈的架构经》 第02讲(上):分布式缓存 点击查看更多

主讲人:李智慧,前阿里巴巴技术专家,《大型网站技术架构》做者

加拉勾职场导师微信:lagouandy,可不定时参与简历1v1诊断抽奖活动,更有拉勾官方技术交流社群等你加入

相关文章
相关标签/搜索