线程同步能够说在平常开发中是用的不少,
但对于其内部如何实现的,通常人可能知道的并很少。
本篇文章将从如何实现简单的锁开始,介绍linux中的锁实现futex的优势及原理,最后分析java中同步机制如wait/notify, synchronized, ReentrantLock。java
首先,若是要你实现操做系统的锁,该如何实现?先想一想这个问题,暂时不考虑性能、可用性等问题,就用最简单、粗暴的方式。当你心中有个大体的思路后,再接着往下看。linux
下文中的代码都是伪代码。bash
最容易想到多是自旋:性能
volatile int status=0;
void lock(){
while(!compareAndSet(0,1)){
}
//get lock
}
void unlock(){
status=0;
}
boolean compareAndSet(int except,int newValue){
//cas操做,修改status成功则返回true
}复制代码
上面的代码经过自旋和cas来实现一个最简单的锁。优化
这样实现的锁显然有个致命的缺点:耗费cpu资源。没有竞争到锁的线程会一直占用cpu资源进行cas操做,假如一个线程得到锁后要花费10s处理业务逻辑,那另一个线程就会白白的花费10s的cpu资源。(假设系统中就只有这两个线程的状况)。ui
要解决自旋锁的性能问题必须让竞争锁失败的线程不忙等
,而是在获取不到锁的时候能把cpu资源给让出来,说到让cpu资源,你可能想到了yield()
方法,看看下面的例子:atom
volatile int status=0;
void lock(){
while(!compareAndSet(0,1)){
yield();
}
//get lock
}
void unlock(){
status=0;
}复制代码
当线程竞争锁失败时,会调用yield方法让出cpu。须要注意的是该方法只是当前让出cpu,有可能操做系统下次仍是选择运行该线程。其实现是
将当期线程移动到所在优先调度队列的末端(操做系统线程调度了解一下?有时间的话,下次写写这块内容)。也就是说,若是该线程处于优先级最高的调度队列且该队列只有该线程,那操做系统下次仍是运行该线程。spa
自旋+yield的方式并无彻底解决问题,当系统只有两个线程竞争锁时,yield是有效的。可是若是有100个线程竞争锁,当线程1得到锁后,还有99个线程在反复的自旋+yield,线程2调用yield后,操做系统下次运行的多是线程3;而线程3CAS失败后调用yield后,操做系统下次运行的多是线程4...
假如运行在单核cpu下,在竞争锁时最差只有1%的cpu利用率,致使得到锁的线程1一直被中断,执行实际业务代码时间变得更长,从而致使锁释放的时间变的更长。操作系统
你可能从一开始就想到了,当竞争锁失败后,能够将用Thread.sleep
将线程休眠,从而不占用cpu资源:线程
volatile int status=0;
void lock(){
while(!compareAndSet(0,1)){
sleep(10);
}
//get lock
}
void unlock(){
status=0;
}复制代码
上述方式咱们可能见的比较多,一般用于实现上层锁。该方式不适合用于操做系统级别的锁,由于做为一个底层锁,其sleep时间很难设置。sleep的时间取决于同步代码块的执行时间,sleep时间若是过短了,会致使线程切换频繁(极端状况和yield方式同样);sleep时间若是设置的过长,会致使线程不能及时得到锁。所以无法设置一个通用的sleep值。就算sleep的值由调用者指定也不能彻底解决问题:有的时候调用锁的人也不知道同步块代码会执行多久。
那可不能够在获取不到锁的时候让线程释放cpu资源进行等待,当持有锁的线程释放锁的时候将等待的线程唤起呢?
volatile int status=0;
Queue parkQueue;
void lock(){
while(!compareAndSet(0,1)){
//
lock_wait();
}
//get lock
}
void synchronized unlock(){
lock_notify();
}
void lock_wait(){
//将当期线程加入到等待队列
parkQueue.add(nowThread);
//将当期线程释放cpu
releaseCpu();
}
void lock_notify(){
//获得要唤醒的线程
Thread t=parkList.poll();
//唤醒等待线程
wakeAThread(t);
}复制代码
上面是伪代码,描述这种设计思想,至于释放cpu资源、唤醒等待线程的的具体实现,后文会再说。这种方案相比于sleep而言,只有在锁被释放的时候,竞争锁的线程才会被唤醒,不会存在过早或过完唤醒的问题。
对于锁冲突不严重的状况,用自旋锁会更适合,试想每一个线程得到锁后很短的一段时间内就释放锁,竞争锁的线程只要经历几回自旋运算后就能得到锁,那就不必等待该线程了,由于等待线程意味着须要进入到内核态进行上下文切换,而上下文切换是有成本的而且还不低,若是锁很快就释放了,那上下文切换的开销将超过自旋。
目前操做系统中,通常是用自旋+等待结合的形式实现锁:在进入锁时先自旋必定次数,若是还没得到锁再进行等待。
linux底层用futex实现锁,futex由一个内核层的队列和一个用户空间层的atomic integer构成。当得到锁时,尝试cas更改integer,若是integer原始值是0,则修改为功,该线程得到锁,不然就将当期线程放入到 wait queue中(即操做系统的等待队列)。
上述说法有些抽象,若是你没看明白也不要紧。咱们先看一下没有futex以前,linux是怎么实现锁的。
在futex诞生以前,linux下的同步机制能够归为两类:用户态的同步机制 和内核同步机制。 用户态的同步机制基本上就是利用原子指令实现的自旋锁。关于自旋锁其缺点也说过了,不适用于大的临界区(即锁占用时间比较长的状况)。
内核提供的同步机制,如semaphore等,使用的是上文说的自旋+等待的形式。 它对于大小临界区和都适用。可是由于它是内核层的(释放cpu资源是内核级调用),因此每次lock与unlock都是一次系统调用,即便没有锁冲突,也必需要经过系统调用进入内核以后才能识别。
理想的同步机制应该是没有锁冲突时在用户态利用原子指令就解决问题,而须要挂起等待时再使用内核提供的系统调用进行睡眠与唤醒。换句话说,在用户态的自旋失败时,能不能让进程挂起,由持有锁的线程释放锁时将其唤醒?
若是你没有较深刻地考虑过这个问题,极可能想固然的认为相似于这样就好了(伪代码):
void lock(int lockval) {
//trylock是用户级的自旋锁
while(!trylock(lockval)) {
wait();//释放cpu,并将当期线程加入等待队列,是系统调用
}
}
boolean trylock(int lockval){
int i=0;
//localval=1表明上锁成功
while(!compareAndSet(lockval,0,1)){
if(++i>10){
return false;
}
}
return true;
}
void unlock(int lockval) {
compareAndSet(lockval,1,0);
notify();
}复制代码
上述代码的问题是trylock和wait两个调用之间存在一个窗口:
若是一个线程trylock失败,在调用wait时持有锁的线程释放了锁,当前线程仍是会调用wait进行等待,但以后就没有人再将该线程唤醒了。
咱们来看看futex的方法定义:
//uaddr指向一个地址,val表明这个地址期待的值,当*uaddr==val时,才会进行wait
int futex_wait(int *uaddr, int val);
//唤醒n个在uaddr指向的锁变量上挂起等待的进程
int futex_wake(int *uaddr, int n);复制代码
futex_wait真正将进程挂起以前会检查addr指向的地址的值是否等于val,若是不相等则会当即返回,由用户态继续trylock。不然将当期线程插入到一个队列中去,并挂起。
futex内部维护了一个队列,在线程挂起前会线程插入到其中,同时对于队列中的每一个节点都有一个标识,表明该线程关联锁的uaddr。这样,当用户态调用futex_wake时,只须要遍历这个等待队列,把带有相同uaddr的节点所对应的进程唤醒就好了。
做为优化,futex维护的实际上是个相似java 中的concurrent hashmap的结构。其持有一个总链表,总链表中每一个元素都是一个带有自旋锁的子链表。调用futex_wait挂起的进程,经过其uaddr hash到某一个具体的子链表上去。这样一方面能分散对等待队列的竞争、另外一方面减少单个队列的长度,便于futex_wake时的查找。每一个链表各自持有一把spinlock,将"*uaddr和val的比较操做"与"把进程加入队列的操做"保护在一个临界区中。另外,futex是支持多进程的,当使用futex在多进程间进行同步时,须要考虑同一个物理内存地址在不一样进程中的虚拟地址是不一样的。