设计一个带有过时时间的LRU缓存

问题描述

如何设计实现LRU缓存?且GET()和Set()的复杂度为0(1)。算法

问题分析

LRU 全称Least Recently Used, 最近最少使用缓存。数组

image.png

LRU算法的设计原则

若是一个数据在最近一段时间没有被访问到,那么在未来它被访问的可能性也很小 也就是说,当限定的空间已存满 数据时,应当把最久没有被访问到的数据淘汰缓存

而用什么数据结构来实现LRU算法呢?

可能大多数人都会想到:用一个数组来存储数据,给每个数据项标记一个访问时间戳,每次插入新数据项的时 候,先把数组中存在的数据项的时间戳自增,并将新数据项的时间戳置为0并插入到数组中。每次访问数组中的数 据项的时候,将被访问的数据项的时间戳置为0。当数组空间已满时,将时间戳最大的数据项淘汰。 这种实现思路 很简单,可是有什么缺陷呢?须要不停地维护数据项的访问时间戳,另外,在插入数据、删除数据以及访问数据 时,时间复杂度都是O(n),数组的缺陷凸显无疑markdown

那么有没有更好的实现办法呢?

那就是利用链表和HashMap。 当须要插入新数据项,在链表中命中,则把该节点移到链表头部 不存在,则新建一个节点,放在链表头部,若缓存满,则把链表最后一个节点删除便可。 在访问数据时,若数据项在链表中存在,则把该节点移到链表头部,不然返回-1 这样一来在链表尾部的节点就是最近最久未访问的数据项。数据结构

1)set(key,value) 若key在hashmap中存在,则先重置value,而后获取对应节点cur,将其从链表删除,并移到链表头 不存在,则新 建一个节点,并将节点放到链表的头部。 当Cache满,删除链表最后一个节点spa

2)get(key) 若key在hashmap中存在,把对应的节点放到链表头,并返回对应value 若不存在,则返回-1 即保证基本的get/set 同时,还要保证最近访问(get或put)的节点保持在限定容量的Cache中,若是超过容量则应该把LRU(近期最少使用) 的节点删除掉。线程

当咱们在get/set一个节点时都会把操做的这个节点移动到tail节点处,表明最新操做的节点,head节点永远指向最 老的节点,当超过设定的容量时,咱们就删除head节点指向的最老节点 就像是个LinkedHashMap,这样作的好处是,get/set在不冲突状况下可保证O(1)复杂度 也可经过双向链表保证 LRU的删除/更新O(1)复杂度 固然可简化head和tail变成一个head节点,成环,这样head的next指向最旧的节点,prev指向最新的节点。设计

过时时间实现

维护一个线程 惰性删除code

image.png