本文首发于 vivo互联网技术 微信公众号
连接: https://mp.weixin.qq.com/s/4sz6sTPvBigR_1g8piFxug
做者:vivo 游戏技术团队
ConcurrentHashMap (如下简称C13Map) 是并发编程出场率最高的数据结构之一,大量的并发CASE背后都有C13Map的支持,同时也是JUC包中代码量最大的组件(6000多行),自JDK8开始Oracle对其进行了大量优化工做。node
本文从 HashMap 的基础知识开始,尝试逐一分析C13Map中各个组件的实现和安全性保证。编程
分析C13MAP前,须要了解如下的HashMap知识或者约定:数组
C13Map的字段定义缓存
//最大容量 private static final int MAXIMUM_CAPACITY = 1 << 30; //默认初始容量 private static final int DEFAULT_CAPACITY = 16; //数组的最大容量,防止抛出OOM static final int MAX_ARRAY_SIZE = Integer.MAX_VALUE - 8; //最大并行度,仅用于兼容JDK1.7之前版本 private static final int DEFAULT_CONCURRENCY_LEVEL = 16; //扩容因子 private static final float LOAD_FACTOR = 0.75f; //链表转红黑树的阈值 static final int TREEIFY_THRESHOLD = 8; //红黑树退化阈值 static final int UNTREEIFY_THRESHOLD = 6; //链表转红黑树的最小总量 static final int MIN_TREEIFY_CAPACITY = 64; //扩容搬运时批量搬运的最小槽位数 private static final int MIN_TRANSFER_STRIDE = 16; //当前待扩容table的邮戳位,一般是高16位 private static final int RESIZE_STAMP_BITS = 16; //同时搬运的线程数自增的最大值 private static final int MAX_RESIZERS = (1 << (32 - RESIZE_STAMP_BITS)) - 1; //搬运线程数的标识位,一般是低16位 private static final int RESIZE_STAMP_SHIFT = 32 - RESIZE_STAMP_BITS; static final int MOVED = -1; // 说明是forwardingNode static final int TREEBIN = -2; // 红黑树 static final int RESERVED = -3; // 原子计算的占位Node static final int HASH_BITS = 0x7fffffff; // 保证hashcode扰动计算结果为正数 //当前哈希表 transient volatile Node<K,V>[] table; //下一个哈希表 private transient volatile Node<K,V>[] nextTable; //计数的基准值 private transient volatile long baseCount; //控制变量,不一样场景有不一样用途,参考下文 private transient volatile int sizeCtl; //并发搬运过程当中CAS获取区段的下限值 private transient volatile int transferIndex; //计数cell初始化或者扩容时基于此字段使用自旋锁 private transient volatile int cellsBusy; //加速多核CPU计数的cell数组 private transient volatile CounterCell[] counterCells;
static final <K,V> Node<K,V> tabAt(Node<K,V>[] tab, int i) { return (Node<K,V>)U.getReferenceAcquire(tab, ((long)i << ASHIFT) + ABASE); } static final <K,V> boolean casTabAt(Node<K,V>[] tab, int i, Node<K,V> c, Node<K,V> v) { return U.compareAndSetReference(tab, ((long)i << ASHIFT) + ABASE, c, v); } static final <K,V> void setTabAt(Node<K,V>[] tab, int i, Node<K,V> v) { U.putReferenceRelease(tab, ((long)i << ASHIFT) + ABASE, v); }
对Node<K,V>[] 上任意一个index的读取和写入都使用了Unsafe辅助类,table自己是volatile类型的并不能保证其下的每一个元素的内存语义也是volatile类型;安全
须要借助于Unsafe来保证Node<K,V>[]元素的“读/写/CAS”操做在多核并发环境下的原子或者可见性。微信
首先须要明确的是,C13Map的读操做通常是不加锁的(TreeBin的读写锁除外),而读操做与写操做有可能并行;能够保证的是,由于C13Map的写操做都要获取bin头部的syncronized互斥锁,能保证最多只有一个线程在作更新,这实际上是一个单线程写、多线程读的并发安全性的问题。数据结构
C13Map的get方法多线程
public V get(Object key) { Node<K,V>[] tab; Node<K,V> e, p; int n, eh; K ek; //执行扰动函数 int h = spread(key.hashCode()); if ((tab = table) != null && (n = tab.length) > 0 && (e = tabAt(tab, (n - 1) & h)) != null) { if ((eh = e.hash) == h) { if ((ek = e.key) == key || (ek != null && key.equals(ek))) return e.val; } else if (eh < 0) return (p = e.find(h, key)) != null ? p.val : null; while ((e = e.next) != null) { if (e.hash == h && ((ek = e.key) == key || (ek != null && key.equals(ek)))) return e.val; } } return null; }
哈希表未初始化或者正在初始化未完成,直接返回null;虽然line5和line18之间其它线程可能经历了千山万水,至少在判断tab==null的时间点key确定是不存在的,返回null符合某一时刻的客观事实。并发
说明该槽位还没有有节点,直接返回null。app
说明头节点是个普通Node。
(1)若是正在发生链表向红黑树的treeify工做,由于treeify自己并不破坏旧的链表bin的结构,只是在所有treeify完成后将头节点一次性替换为新建立的TreeBin,能够放心读取。
(2)若是正在发生resize且当前bin正在被transfer,由于transfer自己并不破坏旧的链表bin的结构,只是在所有transfer完成后将头节点一次性替换为ForwardingNode,能够放心读取。
(3)若是其它线程正在操做链表,在当前线程遍历链表的任意一个时间点,都有可能同时在发生add/replace/remove操做。
结论:对于链表这种线性数据结构,单线程写且插入操做保证是后入式的前提下,并发读取是安全的;不会存在误读、链表断开致使的漏读、读到环状链表等问题。
说明头节点是个TreeBin节点。
(1)若是正在发生红黑树向链表的untreeify操做,由于untreeify自己并不破坏旧的红黑树结构,只是在所有untreeify完成后将头节点一次性替换为新建立的普通Node,能够放心读取。
(2)若是正在发生resize且当前bin正在被transfer,由于transfer自己并不破坏旧的红黑树结构,只是在所有transfer完成后将头节点一次性替换为ForwardingNode,能够放心读取。
(3)若是其余线程在操做红黑树,在当前线程遍历红黑树的任意一个时间点,均可能有单个的其它线程发生add/replace/remove/红黑树的翻转等操做,参考下面的红黑树的读写锁实现。
TreeBin中的读写锁实现
TreeNode<K,V> root; volatile TreeNode<K,V> first; volatile Thread waiter; volatile int lockState; // values for lockState static final int WRITER = 1; // set while holding write lock static final int WAITER = 2; // set when waiting for write lock static final int READER = 4; // increment value for setting read lock private final void lockRoot() { //若是一次性获取写锁失败,进入contendedLock循环体,循环获取写锁或者休眠等待 if (!U.compareAndSetInt(this, LOCKSTATE, 0, WRITER)) contendedLock(); // offload to separate method } private final void unlockRoot() { lockState = 0; } //对红黑树加互斥锁,也就是写锁 private final void contendedLock() { boolean waiting = false; for (int s;;) { //若是lockState除了第二位外其它位上都为0,表示红黑树当前既没有上读锁,又没有上写锁,仅有可能存在waiter,能够尝试直接获取写锁 if (((s = lockState) & ~WAITER) == 0) { if (U.compareAndSetInt(this, LOCKSTATE, s, WRITER)) { if (waiting) waiter = null; return; } } //若是lockState第二位是0,表示当前没有线程在等待写锁 else if ((s & WAITER) == 0) { //将lockState的第二位设置为1,至关于打上了waiter的标记,表示有线程在等待写锁 if (U.compareAndSetInt(this, LOCKSTATE, s, s | WAITER)) { waiting = true; waiter = Thread.currentThread(); } } //休眠当前线程 else if (waiting) LockSupport.park(this); } } //查找红黑树中的某个节点 final Node<K,V> find(int h, Object k) { if (k != null) { for (Node<K,V> e = first; e != null; ) { int s; K ek; //若是当前有waiter或者有写锁,走线性检索,由于红黑树虽然替代了链表,但其内部依然保留了链表的结构,虽然链表的查询性能通常,但根据先前的分析其读取的安全性有保证。 //发现有写锁改走线性检索,是为了不等待写锁释放花去过久时间; 而发现有waiter改走线性检索,是为了不读锁叠加的太多,致使写锁线程须要等待太长的时间; 本质上都是为了减小读写碰撞 //线性遍历的过程当中,每遍历到下一个节点都作一次判断,一旦发现锁竞争的可能性减小就改走tree检索以提升性能 if (((s = lockState) & (WAITER|WRITER)) != 0) { if (e.hash == h && ((ek = e.key) == k || (ek != null && k.equals(ek)))) return e; e = e.next; } //对红黑树加共享锁,也就是读锁,CAS一次性增长4,也就是增长的只是3~32位 else if (U.compareAndSetInt(this, LOCKSTATE, s, s + READER)) { TreeNode<K,V> r, p; try { p = ((r = root) == null ? null : r.findTreeNode(h, k, null)); } finally { Thread w; //释放读锁,若是释放完毕且有waiter,则将其唤醒 if (U.getAndAddInt(this, LOCKSTATE, -READER) == (READER|WAITER) && (w = waiter) != null) LockSupport.unpark(w); } return p; } } } return null; } //更新红黑树中的某个节点 final TreeNode<K,V> putTreeVal(int h, K k, V v) { Class<?> kc = null; boolean searched = false; for (TreeNode<K,V> p = root;;) { int dir, ph; K pk; //...省略处理红黑树数据结构的代码若干 else { //写操做前加互斥锁 lockRoot(); try { root = balanceInsertion(root, x); } finally { //释放互斥锁 unlockRoot(); } } break; } } assert checkInvariants(root); return null; } }
红黑树内置了一套读写锁的逻辑,其内部定义了32位的int型变量lockState,第1位是写锁标志位,第2位是写锁等待标志位,从3~32位则是共享锁标志位。
读写操做是互斥的,容许多个线程同时读取,但不容许读写操做并行,同一时刻只容许一个线程进行写操做;这样任意时间点读取的都是一个合法的红黑树,总体上是安全的。
有的同窗会产生疑惑,写锁释放时为什么没有将waiter唤醒的操做呢?是否有可能A线程进入了等待区,B线程获取了写锁,释放写锁时仅作了lockState=0的操做。
那么A线程是否就没有机会被唤醒了,只有等待下一个读锁释放时的唤醒了呢 ?
显然这种状况违背常理,C13Map不会出现这样的疏漏,再进一步观察,红黑树的变动操做的外围,也就是在putValue/replaceNode那一层,都是对BIN的头节点加了synchornized互斥锁的,同一时刻只能有一个写线程进入TreeBin的方法范围内,当写线程发现当前waiter不为空,其实此waiter只能是当前线程本身,能够放心的获取写锁,不用担忧没法被唤醒的问题。
TreeBin在find读操做检索时,在linearSearch(线性检索)和treeSearch(树检索)间作了折衷,前者性能差但并发安全,后者性能佳但要作并发控制,可能致使锁竞争;设计者使用线性检索来尽可能避免读写碰撞致使的锁竞争,但评估到race condition已消失时,又当即趋向于改用树检索来提升性能,在安全和性能之间作到了极佳的平衡。具体的折衷策略请参考find方法及注释。
因为有线性检索这样一个抄底方案,以及入口处bin头节点的synchornized机制,保证了进入到TreeBin总体代码块的写线程只有一个;TreeBin中读写锁的总体设计与ReentrantReadWriteLock相比仍是简单了很多,好比并未定义用于存放待唤醒线程的threadQueue,以及读线程仅会自旋而不会阻塞等等, 能够看作是特定条件下ReadWriteLock的简化版本。
说明当前bin已迁移,调用其find方法到nextTable读取数据。
forwardingNode的find方法
static final class ForwardingNode<K,V> extends Node<K,V> { final Node<K,V>[] nextTable; ForwardingNode(Node<K,V>[] tab) { super(MOVED, null, null); this.nextTable = tab; } //递归检索哈希表链 Node<K,V> find(int h, Object k) { // loop to avoid arbitrarily deep recursion on forwarding nodes outer: for (Node<K,V>[] tab = nextTable;;) { Node<K,V> e; int n; if (k == null || tab == null || (n = tab.length) == 0 || (e = tabAt(tab, (n - 1) & h)) == null) return null; for (;;) { int eh; K ek; if ((eh = e.hash) == h && ((ek = e.key) == k || (ek != null && k.equals(ek)))) return e; if (eh < 0) { if (e instanceof ForwardingNode) { tab = ((ForwardingNode<K,V>)e).nextTable; continue outer; } else return e.find(h, k); } if ((e = e.next) == null) return null; } } } }
ForwardingNode中保存了nextTable的引用,会转向下一个哈希表进行检索,但并不能保证nextTable就必定是currentTable,由于在高并发插入的状况下,极短期内就能够致使哈希表的屡次扩容,内存中极有可能驻留一条哈希表链,彼此以bin的头节点上的ForwardingNode相连,线程刚读取时拿到的是table1,遍历时却有可能经历了哈希表的链条。
eh<0有三种状况:
- 若是是ForwardingNode继续遍历下一个哈希表。
- 若是是TreeBin,调用其find方法进入TreeBin读写锁的保护区读取数据。
- 若是是ReserveNode,说明当前有compute计算中,整条bin仍是一个空结构,直接返回null。
ReserveNode用于compute/computeIfAbsent原子计算的方法,在BIN的头节点为null且计算还没有完成时,先在bin的头节点打上一个ReserveNode的占位标记。
读操做发现ReserveNode直接返回null,写操做会由于争夺ReserveNode的互斥锁而进入阻塞态,在compute完成后被唤醒后循环重试。
典型的编程范式以下:
C13Map的putValue方法
Node<K,V>[] tab = table; //将堆中的table变量赋给线程堆栈中的局部变量 Node f = tabAt(tab, i ); if(f==null){ //当前槽位没有头节点,直接CAS写入 if (casTabAt(tab, i, null, new Node<K,V>(hash, key, value))) break; }else if(f.hash == MOVED){ //加入协助搬运行列 helpTransfer(tab,f); } //不是forwardingNode else if(f.hash != MOVED){ //先锁住I槽位上的头节点 synchronized (f) { //再doubleCheck看此槽位上的头节点是否仍是f if (tabAt(tab, i) == f) { ...各类写操做 } } }
有人也许会质疑,若是写入时resize操做已完成,发生了table向nextTable的转变,是否会存在写入的是旧表的bin致使数据丢失的可能 ?
这种可能性是不存在的,由于一个table在resize完成后全部的BIN都会被打上ForwardingNode的标记,能够形象的理解为全部槽位上都插满了红旗,而此处在CAS时的compare的变量null,可以保证至少在CAS原子操做发生的时间点table并未发生变动。
这里采用了一个小技巧:先锁住I槽位上的头节点,进入同步代码块后,再doubleCheck看此槽位上的头节点是否有变化。
进入同步块后还须要doubleCheck的缘由:虽然一开始获取到的头节点f并不是ForwardingNode,但在获取到f的同步锁以前,可能有其它线程提早获取了f的同步锁并完成了transfer工做,并将I槽位上的头节点标记为ForwardingNode,此时的f就成了一个过期的bin的头节点。
然而由于标记操做与transfer做为一个总体在同步的代码块中执行,若是doubleCheck的结果是此槽位上的头节点仍是f,则代表至少在当前时间点该槽位尚未被transfer到新表(假如当前有transfer in progress的话),能够放心的对该bin进行put/remove/replace等写操做。
只要未发生transfer或者treeify操做,链表的新增操做都是采起后入式,头节点一旦肯定不会轻易改变,这种后入式的更新方式保证了锁定头节点就等于锁住了整个bin。
若是不做doubleCheck判断,则有可能当前槽位已被transfer,写入的仍是旧表的BIN,从而致使写入数据的丢失;也有可能在获取到f的同步锁以前,其它线程对该BIN作了treeify操做,并将头节点替换成了TreeBin, 致使写入的是旧的链表,而非新的红黑树;
也许有人会质疑,若是有其它线程提早对当前bin进行了的remove/put的操做,引入了新的头节点,而且刚好发生了JVM的内存释放和从新分配,致使新的Node的引用地址刚好跟旧的相同,也就是存在所谓的ABA问题。
这个能够经过反证法来推翻,在带有GC机制的语言环境下一般不会发生ABA问题,由于当前线程包含了对头节点f的引用,当前线程并未消亡,不可能存在f节点的内存被GC回收的可能性。
还有人会质疑,若是在写入过程当中主哈希表发生了变化,是否可能写入的是旧表的bin致使数据丢失,这个也能够经过反证法来推翻,由于table向nextTable的转化(也就是将resize后的新哈希表正式commit)只有在全部的槽位都已经transfer成功后才会进行,只要有一个bin未transfer成功,则说明当前的table未发生变化,在当前的时间点能够放心的向table的bin内写入数据。
能够总结出规律,在对table的槽位成功进行了CAS操做且compare值为null,或者对槽位的非forwardingNode的头节点加锁后,doubleCheck头节点未发生变化,对bin的写操做都是安全的。
原子计算主要包括:computeIfAbsent、computeIfPresent、compute、merge四个方法。
主要区别以下:
(1)computeIfAbsent只会在判断到key不存在时才会插入,判空与插入是一个原子操做,提供的FunctionalInterface是一个二元的Function, 接受key参数,返回value结果;若是计算结果为null则不作插入。
(2)computeIfPresent只会在判读单到Key非空时才会作更新,判断非空与插入是一个原子操做,提供的FunctionalInterface是一个三元的BiFunction,接受key,value两个参数,返回新的value结果;若是新的value为null则删除key对应节点。
(3)compute则不加key是否存在的限制,提供的FunctionalInterface是一个三元的BiFunction,接受key,value两个参数,返回新的value结果;若是旧的value不存在则以null替代进行计算;若是新的value为null则保证key对应节点不会存在。
(4)merge不加key是否存在的限制,提供的FunctionalInterface是一个三元的BiFunction,接受oldValue, newVALUE两个参数,返回merge后的value;若是旧的value不存在,直接以newVALUE做为最终结果,存在则返回merge后的结果;若是最终结果为null,则保证key对应节点不会存在。
若是目标bin的头节点为null,须要写入的话有两种手段:一种是生成好新的节点r后使用casTabAt(tab, i, null, r)原子操做,由于compare的值为null能够保证并发的安全;
另一种方式是建立一个占位的ReserveNode,锁住该节点并将其CAS设置到bin的头节点,再进行进一步的原子计算操做;这两种办法都有可能在CAS的时候失败,须要自旋反复尝试。
computeIfPresent只有在BIN结构非空的状况下才会展开原子计算,天然不存在须要ReserveNode占位的状况;锁住已有的头节点便可。
computeIfAbsent/compute方法在BIN结构为空时,须要展开Function或者BiFunction的运算,这个操做是外部引入的须要耗时多久没法准确评估;这种状况下若是采用先计算,再casTabAt(tab, i, null, r)的方式,若是有其它线程提早更新了这个BIN,那么就须要从新锁定新加入的头节点,并重复一次原子计算(C13Map没法帮你缓存上次计算的结果,由于计算的入参有可能会变化),这个开销是比较大的。
而使用ReserveNode占位的方式无需等到原子计算出结果,能够第一时间先抢占BIN的全部权,使其余并发的写线程阻塞。
缘由是若是BIN结构为空时,根据merge的处理策略,老的value为空则直接使用新的value替代,这样就省去了BiFunction中新老value进行merge的计算,这个消耗几乎是没有的;所以可使用casTabAt(tab, i, null, r)的方式直接修改,避免了使用ReserveNode占位,锁定该占位ReserveNode后再进行CAS修改的两次CAS无谓的开销。
C13Map的compute方法
public V compute(K key, BiFunction<? super K, ? super V, ? extends V> remappingFunction) { if (key == null || remappingFunction == null) throw new nullPointerException(); int h = spread(key.hashCode()); V val = null; int delta = 0; int binCount = 0; for (Node<K, V>[] tab = table; ; ) { Node<K, V> f; int n, i, fh; if (tab == null || (n = tab.length) == 0) tab = initTable(); else if ((f = tabAt(tab, i = (n - 1) & h)) == null) { //建立占位Node Node<K, V> r = new ReservationNode<K, V>(); //先锁定该占位Node synchronized (r) { //将其设置到BIN的头节点 if (casTabAt(tab, i, null, r)) { binCount = 1; Node<K, V> node = null; try { //开始原子计算 if ((val = remappingFunction.apply(key, null)) != null) { delta = 1; node = new Node<K, V>(h, key, val, null); } } finally { //设置计算后的最终节点 setTabAt(tab, i, node); } } } if (binCount != 0) break; } else if ((fh = f.hash) == MOVED) tab = helpTransfer(tab, f); else { synchronized (f) { if (tabAt(tab, i) == f) { if (fh >= 0) { //此处省略对普通链表的变动操做 } else if (f instanceof TreeBin) { //此处省略对红黑树的变动操做 } } } } } if (delta != 0) addCount((long) delta, binCount); return val; }
computeIfAbsent/computeIfPresent中判空与计算是原子操做,根据上述分析主要是经过casTabAt(tab, i, null, r)原子操做,或者使用ReserveNode占位并锁定的方式,或者锁住bin的头节点的方式来实现的。
也就是说整个bin一直处于锁定状态,在获取到目标KEY的value是否为空之后,其它线程没法变动目标KEY的值,判空与计算天然是原子的。
而casTabAt(tab, i, null, r)是由硬件层面的原子指令来保证的,可以保证同一个内存区域在compare和set操做之间不会有任何其它指令对其进行变动。
C13Map中总共有三处地方会触发transfer方法的调用,分别是addCount、tryPresize、helpTransfer三个函数。
以addCount中的检查逻辑为例:
addCount中的transfer检查
Node<K, V>[] tab, nt; int n, sc; //当前的tableSize已经超过sizeCtl阈值,且小于最大值 while (s >= (long) (sc = sizeCtl) && (tab = table) != null && (n = tab.length) < MAXIMUM_CAPACITY) { int rs = resizeStamp(n); //已经在搬运中 if (sc < 0) { if ((sc >>> RESIZE_STAMP_SHIFT) != rs || sc == rs + 1 || sc == rs + MAX_RESIZERS || (nt = nextTable) == null || transferIndex <= 0) break; //搬运线程数加一 if (U.compareAndSwapInt(this, SIZECTL, sc, sc + 1)) transfer(tab, nt); } else if (U.compareAndSwapInt(this, SIZECTL, sc, (rs << RESIZE_STAMP_SHIFT) + 2)) //还没有搬运,当前线程是本次resize工做的第一个线程,设置初始值为2,很是巧妙的设计 transfer(tab, null); s = sumCount(); }
多处应用了对变量sizeCtl的CAS操做,sizeCtl是一个全局控制变量。
参考下此变量的定义:private transient volatile int sizeCtl;
- 初始值是0表示哈希表还没有初始化
- 若是是-1表示正在初始化,只容许一个线程进入初始化代码块
- 初始化或者reSize成功后,sizeCtl=loadFactor * tableSize也就是触发再次扩容的阈值,是一个正整数
- 在扩容过程当中,sizeCtrl是一个负整数,其高16位是与当前的tableSize关联的邮戳resizeStamp,其低16位是当前从事搬运工做的线程数加1
在方法的循环体中每次都将table、sizeCtrl、nextTable赋给局部变量以保证读到的是当前的最新值,且保证逻辑计算过程当中变量的稳定。
若是sizeCtrl中高16位的邮戳与当前tableSize不匹配,或者搬运线程数达到了最大值,或者全部搬运的线程都已经退出(只有在遍历完全部槽位后才会退出,不然会一直循环),或者nextTable已经被清空,跳过搬运操做。
若是知足搬运条件,则对sizeCtrl作CAS操做,sizeCtrl>=0时设置初始线程数为2,sizeCtrl<0时将其值加1,CAS成功后开始搬运操做,失败则进入下一次循环从新判断。
首个线程设置初始值为2的缘由是:线程退出时会经过CAS操做将参与搬运的总线程数-1,若是初始值按照常规作法设置成1,那么减1后就会变为0。
此时其它线程发现线程数为0时,没法区分是没有任何线程作过搬运,仍是有线程作完搬运但都退出了,也就没法判断要不要加入搬运的行列。
值得注意的是,代码中的“sc == rs + 1 || sc == rs + MAX_RESIZERS“是JDK8中的明显的BUG,少了rs无符号左移16位的操做;JDK12已经修复了此问题。
C13Map的transfer方法
private final void transfer(Node<K, V>[] tab, Node<K, V>[] nextTab) { int n = tab.length, stride; //一次搬运多少个槽位 if ((stride = (NCPU > 1) ? (n >>> 3) / NCPU : n) < MIN_TRANSFER_STRIDE) stride = MIN_TRANSFER_STRIDE; if (nextTab == null) { try { //首个搬运线程,负责初始化nextTable Node<K, V>[] nt = (Node<K, V>[]) new Node<?, ?>[n << 1]; nextTab = nt; } catch (Throwable ex) { sizeCtl = Integer.MAX_VALUE; return; } nextTable = nextTab; //初始化当前搬运索引 transferIndex = n; } int nextn = nextTab.length; //公共的forwardingNode ForwardingNode<K, V> fwd = new ForwardingNode<K, V>(nextTab); boolean advance = true; boolean finishing = false; // 保证提交nextTable以前已遍历旧表的全部槽位 for (int i = 0, bound = 0; ; ) { Node<K, V> f; int fh; //循环CAS获取下一个搬运区段 while (advance) { int nextIndex, nextBound; //搬运已结束,或者当前区段还没有完成,退出循环体;最后一次抄底扫描时,仅辅助作i减一的运算 if (--i >= bound || finishing) advance = false; else if ((nextIndex = transferIndex) <= 0) { i = -1; advance = false; } else if (U.compareAndSwapInt (this, TRANSFERINDEX, nextIndex, nextBound = (nextIndex > stride ? nextIndex - stride : 0))) { bound = nextBound; i = nextIndex - 1; advance = false; } } if (i < 0 || i >= n || i + n >= nextn) { int sc; if (finishing) { nextTable = null; table = nextTab; sizeCtl = (n << 1) - (n >>> 1); return; } if (U.compareAndSwapInt(this, SIZECTL, sc = sizeCtl, sc - 1)) { //并不是最后一个退出的线程 if ((sc - 2) != resizeStamp(n) << RESIZE_STAMP_SHIFT) return; finishing = advance = true; //异常巧妙的设计,最后一个线程推出前将i回退到最高位,等因而强制作最后一次的全表扫描;程序直接执行后续的else if代码,看有没有哪一个槽位漏掉了,或者说是否所有是forwardingNode标记; //能够视为抄底逻辑,虽然检测到漏掉槽位的几率基本是0 i = n; } } else if ((f = tabAt(tab, i)) == null) //空槽位直接打上forwardingNode标记,CAS失败下一次循环继续搬运该槽位,成功则进入下一个槽位 advance = casTabAt(tab, i, null, fwd); else if ((fh = f.hash) == MOVED) advance = true; //最后一次抄底遍历时,正常状况下全部的槽位应该都被打上forwardingNode标记 else { //锁定头节点 synchronized (f) { if (tabAt(tab, i) == f) { Node<K, V> ln, hn; if (fh >= 0) { //......此处省略链表搬运代码:职责是将链表拆成两份,搬运到nextTable的i和i+n槽位 setTabAt(nextTab, i, ln); setTabAt(nextTab, i + n, hn); //设置旧表对应槽位的头节点为forwardingNode setTabAt(tab, i, fwd); advance = true; } else if (f instanceof TreeBin) { //......此处省略红黑树搬运代码:职责是将红黑树拆成两份,搬运到nextTable的i和i+n槽位,若是知足红黑树的退化条件,顺便将其退化为链表 setTabAt(nextTab, i, ln); setTabAt(nextTab, i + n, hn); //设置旧表对应槽位的头节点为forwardingNode setTabAt(tab, i, fwd); advance = true; } } } } } }
多个线程并发搬运时,若是是首个搬运线程,负责nextTable的初始化工做;而后借助于全局的transferIndex变量从当前table的n-1槽位开始依次向低位扫描搬运,经过对transferIndex的CAS操做一次获取一个区段(默认是16),当transferIndex达到最低位时,再也不可以获取到新的区段,线程开始退出,退出时会在sizeCtl上将总的线程数减一,最后一个退出的线程将扫描坐标i回退到最高位,强迫作一次抄底的全局扫描。
(1)首先是transfer过程当中是否有可能全局的哈希表table发生屡次resize,或者说存在过时的风险?
观察nextTable提交到table的代码,发现只有在全部线程均搬运完毕退出后才会commit,因此但凡是有一个线程在transfer代码块中,table都不可能被替换;因此不存在table过时的风险。
(2)有并发的写操做时,是否存在安全风险?
由于transfer操做与写操做都要竞争bin的头节点的syncronized锁,二者是互斥串行的;当写线程获得锁后,还要作doubleCheck,发现不是一开始的头节点时什么事情都不会作,发现是forwardingNode,就会加入搬运行列直到新表被提交,而后去直接操做新表。
nextTable的提交老是在全部的槽位都已经搬运完毕,插上ForwardingNode的标识以后的,所以只要新表已提交,旧表一定没法写入;这样就可以有效的避免数据写入旧表。
推理:获取到bin头节点的同步锁开始写操做----------> transfer必然未完成--------->新表必然未提交-------→写入的必然是当前表。
也就说永远不可能存在新旧两张表同时被写入的状况,table被写入时nextTable永远都只能被读取。
(3)有并发的读操做时,是否存在安全风险?
transfer操做并不破坏旧的bin结构,若是还没有开始搬运,将会照常遍历旧的BIN结构;若是已搬运完毕,会调用到forwadingNode的find方法到新表中递归查询,参考上文中的forwadingNode介绍。
由于iterator或containsValue等通用API的存在,以及某些业务场景确实须要遍历整个Map,设计一种安全且有性能保证的遍历机制显得理所固然。
C13Map遍历器实现的难点在于读操做与transfer可能并行,在扫描各个bin时若是遇到forwadingNode该如何处理的问题。
因为并发transfer机制的存在,在某个槽位上遇到了forwadingNode,仅代表当前槽位已被搬运,并不能表明其后的槽位必定被搬运或者还没有被搬运;也就是说其后的若干槽位是一个不可控的状态。
解决办法是引入了相似于方法调用堆栈的机制,在跳转到nextTable时记录下当前table和已经抵达的槽位并进行入栈操做,而后开始遍历下一个table的i和i+n槽位,若是遇到forwadingNode再一次入栈,周而复始循环往复;
每次若是i+n槽位若是到了右半段快要溢出的话就会遵循原来的入栈规则进行出栈,也就是回到上一个上下文节点,最终会回到初始的table也就是initialTable中的节点。
C13Map的Traverser组件
static class Traverser<K,V> { Node<K,V>[] tab; // current table; updated if resized Node<K,V> next; // the next entry to use TableStack<K,V> stack, spare; // to save/restore on ForwardingNodes int index; // index of bin to use next int baseIndex; // current index of initial table int baseLimit; // index bound for initial table final int baseSize; // initial table size Traverser(Node<K,V>[] tab, int size, int index, int limit) { this.tab = tab; this.baseSize = size; this.baseIndex = this.index = index; this.baseLimit = limit; this.next = null; } /** * 返回下一个节点 */ final Node<K,V> advance() { Node<K,V> e; if ((e = next) != null) e = e.next; for (;;) { Node<K,V>[] t; int i, n; // 局部变量保证稳定性 if (e != null) return next = e; if (baseIndex >= baseLimit || (t = tab) == null || (n = t.length) <= (i = index) || i < 0) return next = null; if ((e = tabAt(t, i)) != null && e.hash < 0) { if (e instanceof ForwardingNode) { tab = ((ForwardingNode<K,V>)e).nextTable; e = null; pushState(t, i, n); continue; } else if (e instanceof TreeBin) e = ((TreeBin<K,V>)e).first; else e = null; } //当前若是有跳转堆栈直接回放 if (stack != null) recoverState(n); //没有跳转堆栈说明已经到initalTable else if ((index = i + baseSize) >= n) index = ++baseIndex; // visit upper slots if present } } /** * 遇到ForwardingNode时保存当前上下文 */ private void pushState(Node<K,V>[] t, int i, int n) { TableStack<K,V> s = spare; // reuse if possible if (s != null) spare = s.next; else s = new TableStack<K,V>(); s.tab = t; s.length = n; s.index = i; s.next = stack; stack = s; } /** * 弹出上下文 * */ private void recoverState(int n) { TableStack<K,V> s; int len; //若是当前有堆栈,且index已经到达右半段后溢出当前table,说明该回去了 //若是index还在左半段,则只辅助作index+=s.length操做 while ((s = stack) != null && (index += (len = s.length)) >= n) { n = len; index = s.index; tab = s.tab; s.tab = null; TableStack<K,V> next = s.next; s.next = spare; // save for reuse stack = next; spare = s; } //已经到initialTable,索引自增 if (s == null && (index += baseSize) >= n) index = ++baseIndex; } }
假设在整个遍历过程当中初始表initalTable=table1,遍历到结束时最大的表为table5,也就是在遍历过程当中经历了四次扩容,属于一边遍历一边扩容的最复杂场景;
那么整个遍历过程就是一个以初始化表initalTable为基准表,如下一张表的i和i+n槽位为forwadingNode的跳转目标,相似于粒子裂变通常的从最低表向最高表放射的过程;
traverser并不能保证必定遍历某张表的全部的槽位,但若是假设低阶表的某个槽位在最高阶表老是有相应的投影,好比table1的一个节点在table5中就会对应16个投影;
traverser可以保证一次遍历的全部槽位在最高阶表上的投影,能够布满整张最高阶表,而不会有任何遗漏。
与HashMap中直接定义了size字段相似,获取元素的totalCount在C13MAP中确定不会去遍历完整的数据结构;那样元素较多时性能会很是差,C13MAP设计了CounterCell[]数组来解决并发计数的问题。
CounterCell[]机制并不理会新旧table的更迭,无论是操做的新表仍是旧表,对于计数而言没有本质的差别,CounterCell[]只关注总量的增长或减小。
C13MAP借鉴了JUC中LongAdder和Striped64的计数机制,有大量代码与LongAdder和Striped64是重复的,其核心思想是多核环境下对于64位long型数据的计数操做,虽然借助于volatile和CAS操做可以保证并发的安全性,可是由于多核操做的是同一内存区域,而每一个CPU又有本身的本地cache,例如LV1 Cache,LVL2 Cache,寄存器等。
因为内存一致性协议MESI的存在,会致使本地Cache的频繁刷新影响性能,一个比较好的解决思路是每一个CPU只操做固定的一块内存对齐区域,最终采用求和的方式来计数。
这种方式能提升性能,可是并不是全部场景都适用,由于其最终的value是求和估算出来的,CounterCell累加求和的过程并不是原子,不能表明某个时刻的精准value,因此像compareAndSet这样的原子操做就没法支持。
CounterCell[]中存放2的指数幂个CounterCell,并发操做期间有可能会扩容,每次扩容都是原有size的两倍,一旦超过了CPU的核数即再也不扩容,由于CPU的总数一般也是2的指数幂,因此其size每每等于CPU的核数CounterCell[]初始化、扩容、填充元素时,借助cellBusy其进行spinLock控制baseCount是基础数据。
在并发量不那么大,CAS没有出现失败时直接基于baseCount变量作计数;一旦出现CAS失败,说明有并发冲突,就开始考虑CounterCell[]的初始化或者扩容操做,但在初始化未完成时,仍是会将其视为抄底方案进行计数。
因此最终的技术总和=baseCount+全部CounterCell中的value。
C13Map的addCount方法
private final void addCount(long x, int check) { CounterCell[] cs; long b, s; //初始时老是直接对baseCount计数,直到出现第一次失败,或者已经有现成的CounterCell[]数组可用 if ((cs = counterCells) != null || !U.compareAndSetLong(this, BASECOUNT, b = baseCount, s = b + x)) { CounterCell c; long v; int m; //是否存在竞态,为true时表示无竞态 boolean uncontended = true; if (cs == null || (m = cs.length - 1) < 0 || //先生成随机数再对CounterCell[]数组size求余,也就是随机分配到其中某个槽位 (c = cs[ThreadLocalRandom.getProbe() & m]) == null || !(uncontended = U.compareAndSetLong(c, CELLVALUE, v = c.value, v + x))) { //该槽位还没有初始化或者CAS操做又出现竞态 fullAddCount(x, uncontended); return; } if (check <= 1) return; s = sumCount(); } //检测元素总数是否超过sizeCtl阈值 if (check >= 0) { Node<K,V>[] tab, nt; int n, sc; while (s >= (long)(sc = sizeCtl) && (tab = table) != null && (n = tab.length) < MAXIMUM_CAPACITY) { int rs = resizeStamp(n) << RESIZE_STAMP_SHIFT; if (sc < 0) { if (sc == rs + MAX_RESIZERS || sc == rs + 1 || (nt = nextTable) == null || transferIndex <= 0) break; if (U.compareAndSetInt(this, SIZECTL, sc, sc + 1)) transfer(tab, nt); } else if (U.compareAndSetInt(this, SIZECTL, sc, rs + 2)) transfer(tab, null); s = sumCount(); } } }
其中ThreadLocalRandom是线程上下文内的随机数生成器,能够不受其它线程的影响,提升随机数生成的性能;老是在CAS失败之后,也就是明确感知到存在多线程的竞争的前提下,才会对CounterCell[]进行初始化或者扩容操做。
C13Map的fullAddCount方法
//完整的计数,与LongAdder的代码基本雷同 private final void fullAddCount(long x, boolean wasUncontended) { int h; if ((h = ThreadLocalRandom.getProbe()) == 0) { ThreadLocalRandom.localInit(); // force initialization h = ThreadLocalRandom.getProbe(); wasUncontended = true; } boolean collide = false; // 是否有新的冲突 for (;;) { CounterCell[] cs; CounterCell c; int n; long v; if ((cs = counterCells) != null && (n = cs.length) > 0) { if ((c = cs[(n - 1) & h]) == null) { //随机匹配的槽位还没有有CounterCell元素则初始化之 if (cellsBusy == 0) { // Try to attach new Cell CounterCell r = new CounterCell(x); // Optimistic create if (cellsBusy == 0 && U.compareAndSetInt(this, CELLSBUSY, 0, 1)) { boolean created = false; try { // Recheck under lock CounterCell[] rs; int m, j; if ((rs = counterCells) != null && (m = rs.length) > 0 && rs[j = (m - 1) & h] == null) { rs[j] = r; created = true; } } finally { cellsBusy = 0; } if (created) break; continue; // Slot is now non-empty } } collide = false; } else if (!wasUncontended) wasUncontended = true; //fullAddCount前已经存在cas失败但并不当即扩容,从新生成一个随机数进行CAS重试 else if (U.compareAndSetLong(c, CELLVALUE, v = c.value, v + x)) break; else if (counterCells != cs || n >= NCPU) collide = false; // 超过CPU的最大核数,或者检测到counterCells已扩容,都将冲突状态置为无 else if (!collide) collide = true; // 以上的若干条件都不知足,能够断定一定有冲突,再生成一个随机数试探一下 else if (cellsBusy == 0 && U.compareAndSetInt(this, CELLSBUSY, 0, 1)) { try { if (counterCells == cs) //对counterCells进行doubleCheck counterCells = Arrays.copyOf(cs, n << 1); //扩容,容量翻倍 } finally { cellsBusy = 0; } collide = false; continue; // 对性的counterCell[]进行重试CAS操做 } h = ThreadLocalRandom.advanceProbe(h); //以旧的随机数为基数生成一个新的随机数 } else if (cellsBusy == 0 && counterCells == cs && U.compareAndSetInt(this, CELLSBUSY, 0, 1)) { //第一次初始化工做,初始的数组大小为2 boolean init = false; try { // Initialize table if (counterCells == cs) { CounterCell[] rs = new CounterCell[2]; rs[h & 1] = new CounterCell(x); counterCells = rs; init = true; } } finally { cellsBusy = 0; } if (init) break; } //初始化过程当中其它线程的抄底方案 else if (U.compareAndSetLong(this, BASECOUNT, v = baseCount, v + x)) break; } }
循环生成新的随机数匹配到新的槽位进行CAS的计数操做,出现CAS失败后并不急于扩容;而是老是在连续出现CAS失败的状况才会尝试扩容。
CounterCell[]的总体方案相对独立,与C13Map的关系并不大,能够视为一种成熟的高性能技术方案在各个场景使用。
全部的批量任务执行类均为bulkTask的子类, bulkTask内置了与traverser相似的实现,用以支持对C13Map的遍历;同时它也是ForkJoinTask的子类,支持以fork/join的方式来完成各类批量任务的执行。
由于ForkJoinTask并不是本文的重点,这里仅列出几种有表明性的批量方法,以及相应的的task实现。
C13Map的批量任务
//将全部的entry按照transformer函数进行二元计算,再对全部生成的结果执行action一元函数 public <U> void forEach(long parallelismThreshold, BiFunction<? super K, ? super V, ? extends U> transformer, Consumer<? super U> action); //对全部的entry执行searchFunction二元计算,一旦发现任意一个计算结果不为null,即全盘返回 public <U> U search(long parallelismThreshold, BiFunction<? super K, ? super V, ? extends U> searchFunction); //对全部的entry执行transformer二元计算,再对全部的结果执行reducer收敛函数 public <U> U reduce(long parallelismThreshold, BiFunction<? super K, ? super V, ? extends U> transformer, BiFunction<? super U, ? super U, ? extends U> reducer) //对全部的entry中的value执行transformer二元计算,再对全部的结果执行reducer收敛函数 public <U> U reduceValues(long parallelismThreshold, Function<? super V, ? extends U> transformer, BiFunction<? super U, ? super U, ? extends U> reducer)
以上全部的批量方法都有惟一与其对应的批量task执行类,背后均是基于fork/join思想实现。
以2中列出的reduce方法所对应的MapReduceMappingsTask为例,有关fork/join中的实现细节不属于本文的范畴,不作详细讨论。
C13Map的MapReduceMappingsTask
static final class MapReduceMappingsTask<K,V,U> extends BulkTask<K,V,U> { final BiFunction<? super K, ? super V, ? extends U> transformer; final BiFunction<? super U, ? super U, ? extends U> reducer; U result; MapReduceMappingsTask<K,V,U> rights, nextRight; MapReduceMappingsTask (BulkTask<K,V,?> p, int b, int i, int f, Node<K,V>[] t, MapReduceMappingsTask<K,V,U> nextRight, BiFunction<? super K, ? super V, ? extends U> transformer, BiFunction<? super U, ? super U, ? extends U> reducer) { super(p, b, i, f, t); this.nextRight = nextRight; this.transformer = transformer; this.reducer = reducer; } public final U getRawResult() { return result; } public final void compute() { final BiFunction<? super K, ? super V, ? extends U> transformer; final BiFunction<? super U, ? super U, ? extends U> reducer; if ((transformer = this.transformer) != null && (reducer = this.reducer) != null) { for (int i = baseIndex, f, h; batch > 0 && (h = ((f = baseLimit) + i) >>> 1) > i;) { addToPendingCount(1); //裂变出新的fork-join任务 (rights = new MapReduceMappingsTask<K,V,U> (this, batch >>>= 1, baseLimit = h, f, tab, rights, transformer, reducer)).fork(); } U r = null; //遍历本batch元素 for (Node<K,V> p; (p = advance()) != null; ) { U u; //对本batch作reduce收敛操做 if ((u = transformer.apply(p.key, p.val)) != null) r = (r == null) ? u : reducer.apply(r, u); } //对本身和本身fork出的子任务作reducer收敛操做 result = r; CountedCompleter<?> c; for (c = firstComplete(); c != null; c = c.nextComplete()) { @SuppressWarnings("unchecked") MapReduceMappingsTask<K,V,U> t = (MapReduceMappingsTask<K,V,U>)c, s = t.rights; while (s != null) { U tr, sr; if ((sr = s.result) != null) t.result = (((tr = t.result) == null) ? sr : reducer.apply(tr, sr)); s = t.rights = s.nextRight; } } } } }
自JDK8开始C13Map摒弃了JDK7中的Segment段实现方案,将锁的粒度细化到了每一个bin上,锁的粒度更小并发能力更强。用syncronized关键字代替原先的ReentrantLock互斥锁,因JDK8中对syncronized作了大量优化,能够达到比ReentrantLock更优的性能。
引入并发transfer的机制支持多线程搬运,写操做和transfer操做在不一样bin上可并行。引入ForwardingNode支持读操做和transfer并行,并进一步支持transfer过程有可能存在的哈希表链的遍历。引入ReserveNode在compute原子计算可能耗时较长的状况下抢先占位,避免重复计算。
引入红黑树来优化哈希冲突时的检索性能,其内部实现了轻量级的读写锁保证读写安全,在线性检索和tree检索之间作了智能切换,达到了性能与安全的极佳的平衡。引入CounterCell机制优化多核场景的计数,解决内存伪共享问题。
引入 ForkJoinTask的子类优化bulk计算时的性能。整个C13Map的实现过程大量使用volatile保证可见,使用CAS保证原子,是一种局部无锁的lockFree dataStructure的典范实现。
与HashMap的单线程读写操做不一样的是,HashMap读到的数据在下一次写操做间是一直稳定的,在多个写操做之间是一个稳定的snapshot,而C13Map由于并发线程的存在,数据瞬息万变,读到的永远只是某个时间点的正确数据,写入成功也只是在某个时间点保证写入是安全的,所以C13Map一般只谈安全而不谈实时,这极大提升了编程的难度,也是单线程和并发数据结构之间的明显差别。