007-guava 缓存

时间 2019-11-06

标签 guava 缓存栏目 Java 繁體版

原文原文链接

1、概述

　　Guava Cache与ConcurrentMap很类似，但也不彻底同样。最基本的区别是ConcurrentMap会一直保存全部添加的元素，直到显式地移除。相对地，Guava Cache为了限制内存占用，一般都设定为自动回收元素。在某些场景下，尽管LoadingCache 不回收元素，它也是颇有用的，由于它会自动加载缓存。html

1.一、使用场景

一般来讲，Guava Cache适用于：java

你愿意消耗一些内存空间来提高速度。
你预料到某些键会被查询一次以上。
缓存中存放的数据总量不会超出内存容量。（Guava Cache是单个应用运行时的本地缓存。它不把数据存放到文件或外部服务器。若是这不符合你的需求，请尝试redis这类工具）

若是你的场景符合上述的每一条，Guava Cache就适合你。git

注：若是你不须要Cache中的特性，使用ConcurrentHashMap有更好的内存效率——但Cache的大多数特性都很难基于旧有的ConcurrentMap复制，甚至根本不可能作到。redis

2、使用

2.一、Guava Cache有如下两种建立方式：

　　经过这两种方法建立的cache，和一般用map来缓存的作法比，不一样在于，这两种方法都实现了一种逻辑——从缓存中取key X的值，若是该值已经缓存过了，则返回缓存中的值，若是没有缓存过，能够经过某个方法来获取这个值。但不一样的在于cacheloader的定义比较宽泛，是针对整个cache定义的，能够认为是统一的根据key值load value的方法。而callable的方式较为灵活，容许你在get的时候指定。缓存

方式1、建立 CacheLoader服务器

　　LoadingCache是附带CacheLoader构建而成的缓存实现。建立本身的CacheLoader一般只须要简单地实现V load(K key) throws Exception方法。例如，你能够用下面的代码构建LoadingCache：
　　CacheLoader: 当检索不存在的时候，会自动的加载信息的异步

    class Person{
        private String name;

        public Person(String name) {
            this.name = name;
        }

        @Override
        public String toString() {
            return "Person{" +
                    "name='" + name + '\'' +
                    '}';
        }
    }
    public com.google.common.cache.CacheLoader<String, Person> createCacheLoader() {
        return new com.google.common.cache.CacheLoader<String, Person>() {
            @Override
            public Person load(String key) throws Exception {
                System.out.println("加载建立key:" + key);
                return new Person(key+":ddd");
            }
        };
    }

    @Test
    public void testCreateCacheLoader() throws ExecutionException {
        LoadingCache<String, Person> cache = CacheBuilder.newBuilder()
                .maximumSize(1000)
                .expireAfterWrite(10, TimeUnit.MINUTES)
                .build(createCacheLoader());
        cache.put("aa",new Person("aaa"));
        Person aa = cache.get("aa");
        System.out.println(aa);//Person{name='aaa'}


        Person bb = cache.get("bb");
        System.out.println(bb); //加载建立key:bb   Person{name='bb:ddd'}
    }

方式2、建立 Callableasync

    @Test
    public void testCreateCallable() throws Exception {
        Cache<String, Person> cache = CacheBuilder.newBuilder()
                .maximumSize(1000)
                .build(); // look Ma, no CacheLoader

        try {
            cache.put("aa", new Person("aaaa"));
            // If the key wasn't in the "easy to compute" group, we need to
            // do things the hard way.
            Person aa = cache.get("aa", new Callable<Person>() {
                @Override
                public Person call() throws Exception {
                    return new Person("defalut");
//                    return doThingsTheHardWay(key);
                }
            });
            System.out.println(aa);//Person{name='aaaa'}
        } catch (Exception e) {
            throw new Exception(e.getCause());
        }

        Person bb = cache.get("bb", () -> new Person("defalut"));
        System.out.println(bb); //Person{name='defalut'}
    }

cache的参数ide

基本方法介绍函数

一、getIfPresent(Object key)；　　该方法从本地缓存中找值，若是找不到返回null，找到就返回相应的值。

二、get：首先会在缓存中找，缓存中找不到再经过load加载。

三、remove(@Nullable Object key)；调用LocalManualCache的invalidate(Object key)方法便可调用remove.

四、evictEntries(ReferenceEntry<K, V> newest)；传入的参数为最新的Entry，多是刚插入的，也多是刚更新过的。

该方法只有在设置了在构建缓存的时候指定了maximumSize才会往下执行。首先清除recencyQueue，判断该元素自身的权重是否超过上限，若是超过则移除当前元素。而后判断总的权重是否大于上限，若是超过则去accessQueue里找到队首(即最不常访问的元素)进行

五、preWriteCleanup(long now)；传人参数只有当前时间。键值引用队列中都是存储已经被GC，等待清除的entry信息，因此首先去处理这个里面的entry.

读写队列里面是按照读写时间排序的，取出队列中的首元素，若是当前时间与该元素的时间相差值大于设定值，则进行回收。

六、put

public V put(K key, V value); //onlyIfAbsent为false

public V putIfAbsent(K key, V value); //onlyIfAbsent为true

该方法显式往本地缓存里面插入值。从下面的流程图中能够看出，在执行每次put前都会进行preWriteCleanUP，在put返回前若是更新了entry则要进行evictEntries操做。

七、getUnchecked

　　若是你的CacheLoader没有定义任何checked Exception，那你可使用getUnchecked。

2.二、显示插入数据

　　使用cache.put(key, value)方法能够直接向缓存中插入值，这会直接覆盖掉给定键以前映射的值。使用Cache.asMap()视图提供的任何方法也能修改缓存。但请注意，asMap视图的任何方法都不能保证缓存项被原子地加载到缓存中

　　进一步说，asMap视图的原子运算在Guava Cache的原子加载范畴以外，因此相比于Cache.asMap().putIfAbsent(K,V)，Cache.get(K, Callable<V>) 应该老是优先使用。

2.三、缓存回收

　　Guava Cache提供了三种基本的缓存回收方式：基于容量回收、定时回收和基于引用回收。

一、基于容量的回收（size-based eviction）

　　大小

　　若是要规定缓存项的数目不超过固定值，只需使用CacheBuilder.maximumSize(long)。缓存将尝试回收最近没有使用或整体上不多使用的缓存项。　　

　　警告：在缓存项的数目达到限定值以前，缓存就可能进行回收操做——一般来讲，这种状况发生在缓存项的数目逼近限定值时。

　　权重

　　另外，不一样的缓存项有不一样的“权重”（weights）——例如，若是你的缓存值，占据彻底不一样的内存空间，你可使用CacheBuilder.weigher(Weigher)指定一个权重函数，而且用CacheBuilder.maximumWeight(long)指定最大总重。在权重限定场景中，除了要注意回收也是在重量逼近限定值时就进行了，还要知道重量是在缓存建立时计算的，所以要考虑重量计算的复杂度。

    @Test
    public void testWeight() throws Exception {
        LoadingCache<String, Person> cache = CacheBuilder.newBuilder()
                .maximumWeight(5)
                .weigher((Weigher<String, Person>) (s, person) -> {
                    //权重计算器
                    int weight = person.name.length();
                    System.out.println("key:"+s);
                    return weight;
                })
                .build(new CacheLoader<String, Person>() {
                    @Override
                    public Person load(String key) {
                        System.out.println("加载建立key:" + key);
                        return new Person(key + ":default");
                    }
                });

        cache.put("a",new Person("aaaaaaa1"));
        cache.put("b",new Person("bbbbbb1"));
        cache.put("c",new Person("cc1"));

        Person a = cache.get("a");
        System.out.println(a);
        Person b = cache.get("b");
        System.out.println(b);
        Person c = cache.get("c");
        System.out.println(c);

        //缓存只有 一个 c
        System.out.println(cache.asMap());
    }

输出：

key:a
key:b
key:c
加载建立key:a
key:a
Person{name='a:default'}
加载建立key:b
key:b
Person{name='b:default'}
Person{name='cc1'}
{c=Person{name='cc1'}}

二、定时回收（Timed Eviction）

CacheBuilder提供两种定时回收的方法：

expireAfterAccess(long, TimeUnit)：缓存项在给定时间内没有被读/写访问，则回收。请注意这种缓存的回收顺序和基于大小回收同样。【读一次多久后没有被访问过时】
expireAfterWrite(long, TimeUnit)：缓存项在给定时间内没有被写访问（建立或覆盖），则回收。若是认为缓存数据老是在固定时候后变得陈旧不可用，这种回收方式是可取的。【写完多久后过时】

以下文所讨论，定时回收周期性地在写操做中执行，偶尔在读操做中执行。

    @Test
    public void testEvictionByAccessTime() throws ExecutionException, InterruptedException {
        LoadingCache<String, Person> cache = CacheBuilder.newBuilder()
                .expireAfterAccess(2, TimeUnit.SECONDS)
                .build(createCacheLoader());
        cache.getUnchecked("wangji");
        TimeUnit.SECONDS.sleep(3);
        Person employee = cache.getIfPresent("wangji"); //不会从新加载建立cache
        System.out.println("被销毁：" + (employee == null ? "是的" : "否"));
        cache.getUnchecked("guava");

        TimeUnit.SECONDS.sleep(1);
        employee = cache.getIfPresent("guava"); //会从新加载建立cache
        System.out.println("被销毁：" + (employee == null ? "是的" : "否"));

        TimeUnit.SECONDS.sleep(2);
        employee = cache.getIfPresent("guava"); //不会从新加载建立cache
        System.out.println("被销毁：" + (employee == null ? "是的" : "否"));

        TimeUnit.SECONDS.sleep(2);
        employee = cache.getIfPresent("guava"); //不会从新加载建立cache
        System.out.println("被销毁：" + (employee == null ? "是的" : "否"));

        TimeUnit.SECONDS.sleep(2);
        employee = cache.getIfPresent("guava"); //不会从新加载建立cache
        System.out.println("被销毁：" + (employee == null ? "是的" : "否"));
    }

输出

加载建立key:wangji
被销毁：是的
加载建立key:guava
被销毁：否
被销毁：是的
被销毁：是的
被销毁：是的

三、基于引用的回收（Reference-based Eviction）【强（strong）、软（soft）、弱（weak）、虚（phantom】

经过使用弱引用的键、或弱引用的值、或软引用的值，Guava Cache能够把缓存设置为容许垃圾回收：

CacheBuilder.weakKeys()：使用弱引用存储键。当键没有其它（强或软）引用时，缓存项能够被垃圾回收。由于垃圾回收仅依赖恒等式（==），使用弱引用键的缓存用==而不是equals比较键。
CacheBuilder.weakValues()：使用弱引用存储值。当值没有其它（强或软）引用时，缓存项能够被垃圾回收。由于垃圾回收仅依赖恒等式（==），使用弱引用值的缓存用==而不是equals比较值。
CacheBuilder.softValues()：使用软引用存储值。软引用只有在响应内存须要时，才按照全局最近最少使用的顺序回收。考虑到使用软引用的性能影响，咱们一般建议使用更有性能预测性的缓存大小限定（见上文，基于容量回收）。使用软引用值的缓存一样用==而不是equals比较值。

    @Test
    public void testWeakKey() throws ExecutionException, InterruptedException {
        LoadingCache<String, Person> cache = CacheBuilder.newBuilder()
//                .weakValues()
                .weakKeys()
                .softValues()
                .build(createCacheLoader());
        cache.getUnchecked("guava");
        cache.getUnchecked("wangji");

        System.gc();
        TimeUnit.MILLISECONDS.sleep(100);
        Person employee = cache.getIfPresent("guava"); //不会从新加载建立cache
        System.out.println("被销毁：" + (employee == null ? "是的" : "否"));
    }

输出：

加载建立key:guava
加载建立key:wangji
被销毁：否

2.四、显式清除

　　任什么时候候，你均可以显式地清除缓存项，而不是等到它被回收：
　　个别清除：Cache.invalidate(key)
　　批量清除：Cache.invalidateAll(keys)
　　清除全部缓存项：Cache.invalidateAll()

清理何时发生

　　使用CacheBuilder构建的缓存不会”自动”执行清理和回收工做，也不会在某个缓存项过时后立刻清理，也没有诸如此类的清理机制。相反，它会在写操做时顺带作少许的维护工做，或者偶尔在读操做时作——若是写操做实在太少的话。

　　这样作的缘由在于：若是要自动地持续清理缓存，就必须有一个线程，这个线程会和用户操做竞争共享锁。此外，某些环境下线程建立可能受限制，这样CacheBuilder就不可用了。

　　相反，咱们把选择权交到你手里。若是你的缓存是高吞吐的，那就无需担忧缓存的维护和清理等工做。若是你的缓存只会偶尔有写操做，而你又不想清理工做阻碍了读操做，那么能够建立本身的维护线程，以固定的时间间隔调用Cache.cleanUp()。

　　ScheduledExecutorService能够帮助你很好地实现这样的定时调度。

刷新

　　刷新和回收不太同样。正如LoadingCache.refresh(K)所声明，刷新表示为键加载新值，这个过程能够是异步的。在刷新操做进行时，缓存仍然能够向其余线程返回旧值，而不像回收操做，读缓存的线程必须等待新值加载完成。

    @Test
    public void testCacheRefresh() throws InterruptedException {
        AtomicInteger counter = new AtomicInteger(0);
        CacheLoader<String, Long> cacheLoader = CacheLoader.from(k -> {
            counter.incrementAndGet();
            System.out.println("建立 key :" + k);
            return System.currentTimeMillis();
        });
        LoadingCache<String, Long> cache = CacheBuilder.newBuilder()
                .refreshAfterWrite(2, TimeUnit.SECONDS) // 2s后从新刷新
                .build(cacheLoader);


        Long result1 = cache.getUnchecked("guava");
        TimeUnit.SECONDS.sleep(3);
        Long result2 = cache.getUnchecked("guava");
        System.out.println(result1.longValue() != result2.longValue() ? "是的" : "否");
    }

　　CacheBuilder.refreshAfterWrite(long, TimeUnit)能够为缓存增长自动定时刷新功能。和expireAfterWrite相反，refreshAfterWrite经过定时刷新可让缓存项保持可用，但请注意：缓存项只有在被检索时才会真正刷新（若是CacheLoader.refresh实现为异步，那么检索不会被刷新拖慢）。所以，若是你在缓存上同时声明expireAfterWrite和refreshAfterWrite，缓存并不会由于刷新盲目地定时重置，若是缓存项没有被检索，那刷新就不会真的发生，缓存项在过时时间后也变得能够回收。

2.五、移除监听器

　　经过CacheBuilder.removalListener(RemovalListener)，你能够声明一个监听器，以便缓存项被移除时作一些额外操做。缓存项被移除时，RemovalListener会获取移除通知[RemovalNotification]，其中包含移除缘由[RemovalCause]、键和值。

    @Test
    public void testCacheRemovedNotification() {
        CacheLoader<String, String> loader = CacheLoader.from(String::toUpperCase);
        RemovalListener<String, String> listener = notification -> {
            if (notification.wasEvicted()) {
                RemovalCause cause = notification.getCause();
                System.out.println("remove cause is :" + cause.toString());
                System.out.println("key:" + notification.getKey() + "value:" + notification.getValue());
            }
        };
        LoadingCache<String, String> cache = CacheBuilder.newBuilder()
                .maximumSize(3)
                .removalListener(listener)// 添加删除监听
                .build(loader);
        cache.getUnchecked("lhx");
        cache.getUnchecked("wangwang");
        cache.getUnchecked("guava");
        cache.getUnchecked("test");
        cache.getUnchecked("test1");
    }

输出

remove cause is :SIZE
key:lhxvalue:LHX
remove cause is :SIZE
key:wangwangvalue:WANGWANG

　　警告：默认状况下，监听器方法是在移除缓存时同步调用的。由于缓存的维护和请求响应一般是同时进行的，代价高昂的监听器方法在同步模式下会拖慢正常的缓存请求。在这种状况下，你可使用RemovalListeners.asynchronous(RemovalListener, Executor)把监听器装饰为异步操做。

　　请注意，RemovalListener抛出的任何异常都会在记录到日志后被丢弃[swallowed]。