jvm(13)-线程安全与锁优化

时间 2019-12-10

标签 jvm 线程安全优化栏目 Java 繁體版

原文原文链接

【0】READMEjava

0.1）本文部分文字转自“深刻理解jvm”，旨在学习 线程安全与锁优化 的基础知识；程序员

0.2）本文知识对于理解 java并发编程很是有用，我的以为，因此我总结的很详细；编程

【1】概述数组

【2】线程安全安全

1）线程安全定义：当多个线程访问一个对象时，若是不用考虑这些线程在运行时环境下的调度和交替执行，也不须要进行额外的同步，或者在调用方进行任何其余的协调操做，调用这个对象的行为均可以得到正确的结果，那这个对象是线程安全的；（干货——线程安全定义） 数据结构

【2.1】java 语言中的线程安全（干货——java中各类操做共享的数据分为如下5类）

0）java中各类操做共享的数据分为如下5类：不可变，绝对线程安全，相对线程安全，线程兼容，线程对立；

1）不可变对象：该对象必定是线程安全的，不管是对象的方法实现仍是方法的调用者，都不须要采起任何的线程安全保障措施；

1.1）若是共享数据是一个基本数据类型，那么只要在定义时使用 final 关键字修饰它就能够保证它是不可变的；

1.2）不妨想一想java.lang.String类的对象：它是一个典型的不可变对象，调用它的substring(), replace(), concat() 这些方法都不会影响它原来的值，只会返回一个新构造的字符串对象；

1.3）看个荔枝：如java.lang.Integer 构造函数所示的，将value定义为final 来保障状态不变；

2）绝对线程安全多线程

2.1）在java API中标注本身是线程安全的类，大多数都不是绝对的线程安全并发

2.2）java.util.Vector 是一个线程安全的容器，由于它的add()方法，get()方法，size() 方法这些方法都是被 synchronized修饰的，尽管效率低下，但确实是安全的；对Vector的测试以下： app

// 对线程安全的容器 Vector的测试
public class VectorTest { private static Vector<Integer> vector = new Vector<>(); public static void main(String[] args) { while(true) { for (int i = 0; i < 100; i++) { vector.add(i); } Thread removeThread = new Thread(new Runnable() { @Override public void run() { for (int i = 0; i < vector.size(); i++) { vector.remove(i); } } }); Thread printThread = new Thread(new Runnable() { @Override public void run() { for (int i = 0; i < vector.size(); i++) { System.out.println(vector.get(i)); } } }); removeThread.start(); printThread.start(); // 不要同时产生过多的线程，不然会致使os 假死
            while(Thread.activeCount() > 20); } } }

对以上代码的分析（Analysis）：jvm

A1）运行结果： 做者说会抛出异常（但个人运行结果却没有抛出异常），按理说应该是会抛出异常的；

A2）抛出异常的缘由：由于若是另外一个线程刚好在错误的时间里删除了一个元素，致使序号i 已经再也不可用的话，再用i 访问数组就会抛出一个 ArrayIndexOutOfBoundsException。

A3）若是要保证这段代码可以正确执行下去，修改后的代码为：

// 对线程安全的容器 Vector的测试(修改后的代码)
public class ModifiedVectorTest {
    private static Vector<Integer> vector = new Vector<>(); 
    
    public static void main(String[] args) {
        while(true) {
            for (int i = 0; i < 100; i++) {
                vector.add(i);
            }
            
            Thread removeThread = new Thread(new Runnable() {
                @Override
                public void run() {
                    synchronized (vector) { // 添加同步块，this line
                        for (int i = 0; i < vector.size(); i++) {
                            vector.remove(i);
                        }
                    }
                }
            });
            
            Thread printThread = new Thread(new Runnable() {
                @Override
                public void run() {
                    synchronized (vector) { // 添加同步块，this line
                        for (int i = 0; i < vector.size(); i++) {
                            System.out.println(vector.get(i));
                        }
                    }
                }
            });
            
            removeThread.start();
            printThread.start();
            
            // 不要同时产生过多的线程，不然会致使os 假死
            while(Thread.activeCount() > 20);
        }
    }
}

3）相对线程安全

3.1）上述 VectorTest.java 和 ModifiedVectorTest.java 就是相对线程安全的案例；

4）线程兼容

4.1）线程兼容定义：线程兼容是指对象自己并非线程安全的，可是能够经过在调用端正确地使用同步手段来保证对象在并发环境中能够安全地使用；

5）线程对立

5.1）线程对立定义：指不管调用端是否采起了同步措施，都没法在多线程环境中并发使用的代码；

5.2）因为java语言天生就具有多线程特性，线程对立这种排斥多线程的代码是不多出现的，并且一般是有害的，应当尽可能避免；

5.3）线程对立的荔枝：Thread类的suspend() 和 resume() 方法；若是有两个线程同时持有一个线程对象，一个尝试去中断线程，另外一个尝试去恢复线程，若是并发进行的话，不管调用时是否进行了同步，目标线程都是存在死锁风险的。正因为这个缘由，suspend和result方法已经被JDK废弃了了（@Deprecated）

【2.2】线程安全的实现方法

1）互斥同步

1.1）互斥同步：是常见的并发正确性保障手段；

1.2）同步：是指在多个线程并发访问共享数据时，保证共享数据在同一个时刻被一个线程使用。

1.3）互斥：互斥是实现同步的一种手段；临界区，互斥量和信号量都是主要的互斥实现方式。所以，在这4个字里面，互斥是因，同步是果；互斥是方法，同步是目的；

1.4）最基本的互斥同步手段就是 synchronized关键字：synchronized关键字通过编译以后，会在同步块的先后分别造成 monitorenter 和 monitorexit 这个两个字节码指令，这两个字节码都须要一个 reference类型的参数来指明要锁定和解锁的对象；若是java程序中的synchronized明确指定了对象参数，那就是这个对象的reference；若是没有明确指定，那就根据 synchronized修饰的实例方法仍是类方法，去取对应的对象实例或Class 对象来做为锁对象；（干货——最基本的互斥同步手段就是 synchronized关键字）

1.5）根据虚拟机规范的要求：在执行monitorenter指令时，若是这个对象没有锁定或当前线程已经拥有了那个对象的锁，锁的计数器加1，相应的，在执行 monitorexit 指令时会将锁计数器减1；当计数器为0时，锁就被释放了；（干货——执行monitorenter和monitorexit 指令）

Attention）对于monitorenter 和 monitorexit 的行为描述中，有两点须要注意：

A1）synchronized同步块对同一条线程来讲是可重入的，不会出现本身把本身锁死的问题；

A2）同步块在已进入的线程执行完以前，会阻塞后面其余线程的进入；

1.6）除了synchronized以外，还可使用 java.util.concurrent 包中的重入锁（ReentrantLock）来实现同步；（干货——引入重入锁进行同步）

1.6.1）synchronized 和 ReentrantLock 的区别： 一个表现为 API 层面的互斥锁（lock() 和 unlock() 方法配合 try/finally 语句块来完成），另外一个表现为原生语法层面的互斥锁；

1.6.2）ReentrantLock增长了一些高级功能：主要有3项：等待可中断，可实现公平锁，以及锁能够绑定多个条件；（干货——ReentrantLock 增长了3项高级功能）

case1）等待可中断： 指当持有锁的线程长期不释放锁的时候，正在等待的线程能够选择放弃等待，改成处理其余事情，可中断特性对处理执行时间很是长的同步块颇有帮助；

case2）公平锁：指多个线程在等待同一个锁时，必须按照申请锁的时间顺序来依次得到锁；

case3）锁绑定多个条件：指一个 ReentrantLock对象能够同时绑定多个 Condition对象，而在 synchronized中，锁对象的wait() 和 notify() 或 notifyAll() 方法能够实现一个隐含的条件，若是要和多于一个的条件关联的时候，就不得不额外地添加一个锁，而ReentrantLock 则无需这样作，只须要屡次调用 newCondition() 方法便可； （干货——可重入锁ReentrantLock 和 synchronized 绑定多个条件的实现方式的区别）

1.6.3）关于synchronized 和 ReentrantLock 性能的分析：

对上图的分析（Analysis）：

A1）多线程环境下 synchronized的吞吐量降低得很是严重，而 ReentrantLock 则能基本保持在同一个比较稳定的水平上；与其说ReentrantLock性能好，还不如说 synchronized还有很是大的优化余地；

A2）虚拟机在将来的性能改进中确定也会更加偏向于原生的 synchronized，因此仍是提倡在 synchronized能实现需求的状况下，优先考虑使用 synchronized 来进行同步；（干货——同步方式推荐使用synchronized）

2）非阻塞同步

2.1）阻塞同步（互斥同步）的问题：就是进行线程阻塞和唤醒所带来的性能问题，互斥同步属于一种悲观的并发策略，不管共享数据是否真的会出现竞争，它都要进行加锁，用户态核心态转换，维护锁计数器和检查是否有被阻塞的线程须要唤醒等操做；（干货——阻塞同步（互斥同步）的问题）

2.2）非阻塞同步定义：基于冲突检测的乐观并发策略，通俗的说，就是先进行操做，若是没有其余线程争用共享数据，那操做就成功了；若是共享数据有争用，产生了冲突，那就再采用其余的补偿措施，这种乐观的并发策略的许多实现都不须要把线程挂起，所以这种同步操做称为非阻塞同步；（干货——非阻塞同步定义）

2.3）为何做者要说使用乐观并发策略须要“硬件指令集的发展”才能进行呢？由于咱们须要操做和冲突检测这两个步骤具有原子性，靠什么来保证呢？

2.3.1）硬件： 保证一个从语义上看起来须要屡次操做的行为只经过一次处理器指令就能完成，这类指令经常使用的有：（instructions）

i1）测试并设置（Test-and-Set）；

i2）获取并增长（Fetch-and-Increment）；

i3）交换（Swap）；

i4）比较并交换（Compare-and-Swap，下文简称 CAS）；

i5）加载连接/ 条件存储（Load-Linked/Store-Conditional，下文简称 LL/SC）；

2.4）如何使用CAS 操做来避免阻塞同步，看个荔枝：（测试incrementAndGet 方法的原子性）

// Atomic 变量自增运算测试(incrementAndGet 方法的原子性)
public class AtomicTest {
    public static AtomicInteger race = new AtomicInteger(0);
    
    public static void increase() {
        // 输出正确结果，一切都要归功于 incrementAndGet 方法的原子性
        race.incrementAndGet();  
    }
    
    public static final int THREADS_COUNT = 20;
    
    public static void main(String[] args) throws Exception {
        Thread[] threads = new Thread[THREADS_COUNT];
        for (int i = 0; i < threads.length; i++) {
            threads[i] = new Thread(new Runnable() {
                @Override
                public void run() {
                    for (int j = 0; j < 10000; j++) {
                        increase();
                    }
                }
            });
            threads[i].start();
        }
        
        while(Thread.activeCount() > 1) {
            Thread.yield();
        }
        
        System.out.println(race);
    }
    
    /**
     * incrementAndGet() 方法的JDK 源码
     * Atomically increment by one the current value.
     * @return the updated value
     */
    public final int incrementAndGet() {
        for(;;) {
            int current = get();
            int next = current + 1;
            if(compareAndSet(current,next)) {
                return next;
            }
        }
    }
}

2.5）CAS操做（比较并交换操做）的ABA问题：若是一个变量V初次读取的时候是A值，而且在准备赋值的时候检查到它仍然是A值，那咱们就说它的值没有被其余线程改变过了吗？若是在这段期间它的值曾经被改成了B，以后又改回了A，那CAS操做就会误认为它历来没有被改变过，这个漏洞称为 CAS操做的 ABA问题；

2.6）解决方法：J.U.C 包为了解决这个问题，提供了一个带有标记的原子引用类“AtomicStampedReference”，它能够经过控制变量值的version 来保证CAS的正确性。不过目前来讲这个类比较鸡肋，大部分cases 下 ABA问题不会影响程序并发的正确性，若是须要解决ABA问题，改用传统的互斥同步可能会比原子类更高效；（干货——CAS操做（比较并交换操做）的ABA问题及其解决方法）

3）无同步方案

3.0）intro： 若是一个方法原本就不涉及共享数据，那它天然就无须任何同步措施去保证正确性，所以会有一些代码天生就是线程安全的；下面介绍两类线程安全代码：

3.1）第一类线程安全代码——可重入代码：也叫做纯代码，能够在代码执行的任什么时候刻中断它，转而去执行另一段代码，而在控制权返回后，原来的程序不会出现任何错误； （干货——可重入代码定义）

3.1.1）全部的可重入代码都是线程安全的；

3.1.2）如何判断代码是否具有可重入性：若是一个方法，它的返回结果是能够预测的，只要输入了相同的数据，就都能返回相同的结果，那它就知足可重入性的要求，固然也就是线程安全的；

3.2）第二类线程安全代码——线程本地存储：若是一段代码中所须要的数据必须与其余代码共享，那就看看这些共享数据的代码是否可以保证在同一线程中执行？若是能保证，咱们就能够把共享数据的可见范围限制在同一个线程内，这样，无需同步也能够保证线程间不出现数据争用问题；

【3】锁优化

【3.1】自旋锁与自适应自旋（干货——引入自旋锁与自适应自旋）

1）problem：前文中咱们提到，互斥同步对性能最大的影响是阻塞的实现，挂起线程和恢复线程的操做都须要转入内核态中完成，共享数据的锁定状态只会持续很短的一段时间，为了这段时间去挂起和恢复线程很不值得；（干货——产生自旋锁与自适应自旋的背景）

2）自旋锁定义：为了让线程等待，咱们只需让线程执行一个忙循环（自旋），这项技术就是所谓的自旋锁；（solution）

2.1）jdk1.6中自旋锁是默认开启的，可使用 -XX:+UseSpinning 参数来开启；

2.2）自旋等待的时间必需要有必定的限度： 若是自旋超过了限定的次数仍然没有成功得到锁，就应当使用传统的方式去挂起线程了。自旋次数的默认值是10，用户能够用参数 -XX:PreBlockSpin 来更改；

2.3）自适应自旋锁：jdk1.6 中引入了自适应的自旋锁。自适应意味着自旋的时间再也不固定了，而是由前一次在同一个锁上的自旋时间及锁的拥有者的状态来决定；

case1）若是在同一个锁对象上，自旋等待刚刚成功得到过锁，而且持有锁的线程正在运行中，那么虚拟机就会认为此次自旋也颇有可能再次成功，进而它将容许自旋等待持续相对更长的时间，好比100个cycle；

case2）若是对于某个锁，自旋不多成功得到过，那在之后要获取这个锁时将可能省略掉自旋过程，以免浪费处理器资源；

【3.2】锁消除

1）定义：锁消除是指虚拟机即时编译器在运行时，对一些代码上要求同步，可是被检查到不可能存在共享数据竞争的锁进行消除；（干货——引入锁消除的概念）

2）锁消除的主要断定依据：来源于逃逸分析的数据支持；若是断定在一段代码中，堆上的全部数据都不会逃逸出去从而被其余线程访问到，那就能够把它们当作栈上数据对待，认为它们是线程私有的，同步加锁天然就无须进行了；

3）problem+solution

3.1）problem：程序员本身应该很清楚，怎么会在明知道不存在数据争用的case下还要求同步呢？

3.2）solution：许多同步措施并非程序员本身加入的，同步的代码在java程序中的广泛程度早就超过了大部分人的想象；（干货——许多同步措施并非程序员本身加入的）

3.3）看个荔枝：这段code 仅仅是输出3个字符串相加的结果，不管是源码字面上仍是程序语义上都没有同步；（干货——锁消除的荔枝）

public class LockEliminateTest {
    
    // raw code
    public String concatString(String s1, String s2, String s3) {
        return s1 + s2 + s3;
    }
    
    // javac 转化后的字符串链接操做
    public String concatString(String s1, String s2, String s3) {
        StringBuffer sb = new StringBuffer();
        sb.append(s1);
        sb.append(s2);
        sb.append(s3);
        return sb.toString();
    }
}

对以上代码的分析（Analysis）：

A1）对于 javac 转化后的字符串链接操做代码： 使用了同步，由于StringBuffer.append() 方法中都有一个同步块，锁就是sb对象。虚拟机观察变量sb，很快就会发现他的动态做用域被限制在 concatString() 方法内部；也就是所 sb 的全部引用都不会逃逸到方法以外；

A2）因此，虽然这里有锁，可是能够被安全地消除掉，在即时编译以后，这段代码就会忽略掉全部的同步而直接执行了；

【3.3】锁粗化

1）problem：若是一系列的连续操做都对同一个对象反复加锁和解锁，甚至加锁操做是出如今循环体中的，那即便没有线程竞争，频繁地进行互斥同步操做也会致使没必要要的性能损耗；

2）锁粗化的定义：若是虚拟机探测到有这样一串零碎的操做都对同一个对象加锁，将会把加锁同步的范围扩展（粗化）到整个操做序列的外部；

3）看个荔枝：如下面的代码为例，就是扩展到第一个 append() 操做前直到最后一个 append()操做以后，这样只须要加锁一次就能够了；

// javac 转化后的字符串链接操做
    public String concatString(String s1, String s2, String s3) {
        StringBuffer sb = new StringBuffer();
        sb.append(s1);
        sb.append(s2);
        sb.append(s3);
        return sb.toString();
    }

【3.4】轻量级锁

1）重量级锁定义：使用操做系统互斥量来实现的传统锁；

2）轻量级锁的目的：是在没有多线程竞争的前提下，减小传统的重量级锁使用操做系统互斥量产生的性能消耗；（干货——轻量级锁的做用）

3）HotSpot虚拟机的对象头分为两部分信息：（干货——HotSpot虚拟机的对象头分为两部分信息）

3.1）第一部分：用于存储对象自身的运行时数据，如哈希码，GC分代年龄等；这部分数据的长度在32位和64位的虚拟机中分别为 32bit 和 64bit，官方称它为 Mark Word，它是实现轻量级锁和偏向锁的关键；（干货——Mark Word 是实现轻量级锁和偏向锁的关键）

3.2）第二部分：用于存储指向方法区对象类型数据的指针，若是是数组对象的话，还会有一个额外的部分用于存储数组长度；

3.3）对象头信息是与对象自身定义的数据无关的额外存储成本，考虑到虚拟机的空间效率，Mark Word 被设计成一个非固定的数据结构以便在极小的空间内存储尽可能多的信息，它会工具对象的状态复用本身的存储空间；

3.4）HotSpot 虚拟机对象头Mark Word 以下图所示：

4）在代码进入同步块的时候：

4.1）轻量级锁的加锁过程：（干货——轻量级锁的加锁过程）

step1）若是此同步对象没有被锁定（锁标志位为01状态）：虚拟机首先将在当前线程的栈帧中创建一个名为锁记录的空间，用于存储对象目前的Mark Word 的拷贝；

step2）而后，虚拟机将使用CAS 操做尝试将对象的 Mark Word 更新为指向 Lock Record的指针；

step3）若是这个更新工做成功了，那么这个线程就拥有了该对象的锁，而且对象Mark Word的锁标志位将转变为 00，即表示此对象处于轻量级锁定状态；

step4）若是这个更新失败了，虚拟机首先会检查对象的Mark Word 是否指向当前线程的栈帧，若是只说明当前线程已经拥有了这个对象的锁，那就能够直接进入同步块继续执行，不然说明这个锁对象以及被其余线程抢占了。若是有两条以上的线程争用同一个锁，那轻量级锁就再也不有效，要膨胀为重量级锁，锁标志的状态值变为 10，Mark Word中存储的就是指向重量级（互斥量）的指针，后面等待锁的线程也要进入阻塞状态；

4.2）轻量级锁的解锁过程：（干货——轻量级锁的解锁过程，其解锁过程也是经过CAS 操做来进行的）

step1）若是对象的Mark Word仍然指向着线程的锁记录，那就用CAS 操做把对象当前的Mark Word 和线程中复制的 Dispatched Mard Word替换回来；

step2）若是替换成功，整个同步过程就over了；

step3）若是替换失败，说明有其余线程尝试过获取该锁，那就要在释放锁的同时，唤醒被挂起的线程；

Conclusion）

C1）轻量级锁能提高程序同步性能的依据是： 对于绝大部分的锁，在整个同步周期内都是不存在竞争的；

C2）若是没有竞争，轻量级锁使用CAS 操做避免了使用互斥量的开销；但若是存在锁竞争，除了互斥量的开销外，还额外发生了CAS 操做，所以在有竞争的case下，轻量级锁会比传统的重量级锁更慢；

【3.5】偏向锁

1）偏向锁的目的：消除数据在无竞争状况下的同步原语，进一步提升程序的运行性能；

2）若是说轻量级锁是在无竞争的状况使用CAS 操做去消除同步使用的互斥量：那偏向锁就是在无竞争的状况下把整个同步都消除掉，连CAS 操做都不作了；（干货——偏向锁的定义）

3）偏向锁的偏： 它的意思是这个锁会偏向于第一个得到它的线程，若是在接下来的执行过程当中，该锁没有被其余的线程获取，则持有偏向锁的线程将永远不须要再进行同步；

4）偏向锁的原理：若当前虚拟机启用了偏向锁，那么，当锁对象第一次被线程获取的时候，虚拟机将会把对象头中的标志位设为01，即偏向模式；同时使用CAS 操做把获取到这个锁的线程的ID 记录在对象的 Mark Word之中，若是 CAS操做成功，持有偏向锁的线程之后每次进入这个锁相关的同步块时，虚拟机均可以再也不进行任何同步操做；（干货——偏向锁的原理）

5）当有另外一个线程去尝试获取这个锁时，偏向模式就结束了：根据锁对象目前是否处于被锁定的状态，撤销偏向后恢复到未锁定（标志位为01）或轻量级锁定（标志位为00）的状态，后续的同步操做就如上面介绍的轻量级锁那样执行；

Conclusion）

C1）偏向锁能够提升带有同步但无竞争的程序性能；

C2）若是程序中大多数的锁老是被多个不一样的线程访问：那偏向模式是多余的；