缓存算法之 LRU——最近最少使用

LRU

         LRU是Least Recently Used 的缩写，翻译过来就是“最近最少使用”，也就是说，LRU缓存把最近最少使用的数据移除，让给最新读取的数据。而每每最常读取的，也是读取次数最多的，因此，利用LRU缓存，咱们可以提升系统的performance.

   1. 新数据插入到链表头部；

   2. 每当缓存命中(即缓存数据被访问)，则将数据移到链表头部；

   3. 当链表满的时候，将链表尾部的数据丢弃。

LRU分析

   【命中率】

   当存在热点数据时，LRU的效率很好，但偶发性的、周期性的批量操做会致使LRU命中率急剧降低，缓存污染状况比较严重。

   【复杂度】

   实现简单。

   【代价】

   命中时须要遍历链表，找到命中的数据块索引，而后须要将数据移到头部。

LRU-K

   LRU-K中的K表明最近使用的次数，所以LRU能够认为是LRU-1。LRU-K的主要目的是为了解决LRU算法“缓存污染”的问题，其核心思想是将“最近使用过1次”的判断标准扩展为“最近使用过K次”。

实现

   相比LRU，LRU-K须要多维护一个队列，用于记录全部缓存数据被访问的历史。只有当数据的访问次数达到K次的时候，才将数据放入缓存。当须要淘汰数据时，LRU-K会淘汰第K次访问时间距当前时间最大的数据。详细实现以下：

   1. 数据第一次被访问，加入到访问历史列表；

   2. 若是数据在访问历史列表里后没有达到K次访问，则按照必定规则(FIFO，LRU)淘汰；

   3. 当访问历史队列中的数据访问次数达到K次后，将数据索引从历史队列删除，将数据移到缓存队列中，并缓存此数据，缓存队列从新按照时间排序；

   4. 缓存数据队列中被再次访问后，从新排序；

   5. 须要淘汰数据时，淘汰缓存队列中排在末尾的数据，即：淘汰“倒数第K次访问离如今最久”的数据。

   LRU-K具备LRU的优势，同时可以避免LRU的缺点，实际应用中LRU-2是综合各类因素后最优的选择，LRU-3或者更大的K值命中率会高，但适应性差，须要大量的数据访问才能将历史访问记录清除掉。

分析

   【命中率】

   LRU-K下降了“缓存污染”带来的问题，命中率比LRU要高。

   【复杂度】

   LRU-K队列是一个优先级队列，算法复杂度和代价比较高。

   【代价】

   因为LRU-K还须要记录那些被访问过、但尚未放入缓存的对象，所以内存消耗会比LRU要多；当数据量很大的时候，内存消耗会比较可观。

   LRU-K须要基于时间进行排序(能够须要淘汰时再排序，也能够即时排序)，CPU消耗比LRU要高。