Golang 协程调度

1、线程模型

• N:1模型，N个用户空间线程在1个内核空间线程上运行。优点是上下文切换很是快可是没法利用多核系统的优势。
• 1:1模型，1个内核空间线程运行一个用户空间线程。这种充分利用了多核系统的优点可是上下文切换很是慢，由于每一次调度都会在用户态和内核态之间切换。（POSIX线程模型(pthread)，Java）
• M:N模型， 每一个用户线程对应多个内核空间线程，同时也能够一个内核空间线程对应多个用户空间线程。Go打算采用这种模型，使用任意个内核模型管理任意个goroutine。这样结合了以上两种模型的优势，但缺点就是调度的复杂性。

下面看看golang的协程调度

• M：一个用户空间线程，同时对应一个内核线程，相似posix pthread
• P：表明运行的上下文环境, 也就是咱们上一节实现的调度器，一个调度器也会对应一个就绪队列
• G：goroutine，即协程

2、调度模型简介

groutine能拥有强大的并发实现是经过GPM调度模型实现，下面就来解释下goroutine的调度模型。

Go的调度器内部有三个重要的结构：M，P，G
M：M是对内核级线程的封装，数量对应真实的CPU数，一个M就是一个线程，goroutine就是跑在M之上的；M是一个很大的结构，里面维护小对象内存cache（mcache）、当前执行的goroutine、随机数发生器等等很是多的信息
G：表明一个goroutine，它有本身的栈，instruction pointer和其余信息（正在等待的channel等等），用于调度。
P：P全称是Processor，处理器，它的主要用途就是用来执行goroutine的。每一个Processor对象都拥有一个LRQ（Local Run Queue），未分配的Goroutine对象保存在GRQ（Global Run Queue ）中，等待分配给某一个P的LRQ中，每一个LRQ里面包含若干个用户建立的Goroutine对象。

Golang采用的是多线程模型，更详细的说他是一个两级线程模型，但它对系统线程（内核级线程）进行了封装，暴露了一个轻量级的协程goroutine（用户级线程）供用户使用，而用户级线程到内核级线程的调度由golang的runtime负责，调度逻辑对外透明。goroutine的优点在于上下文切换在彻底用户态进行，无需像线程同样频繁在用户态与内核态之间切换，节约了资源消耗。

调度实现

从上图中看，有2个物理线程M，每个M都拥有一个处理器P，每个也都有一个正在运行的goroutine。
P的数量能够经过GOMAXPROCS()来设置，它其实也就表明了真正的并发度，即有多少个goroutine能够同时运行。
图中灰色的那些goroutine并无运行，而是出于ready的就绪态，正在等待被调度。P维护着这个队列（称之为runqueue），
Go语言里，启动一个goroutine很容易：go function 就行，因此每有一个go语句被执行，runqueue队列就在其末尾加入一个
goroutine，在下一个调度点，就从runqueue中取出（如何决定取哪一个goroutine？）一个goroutine执行。

 

当一个OS线程M0陷入阻塞时（以下图)，P转而在运行M1，图中的M1多是正被建立，或者从线程缓存中取出。

 

当MO返回时，它必须尝试取得一个P来运行goroutine，通常状况下，它会从其余的OS线程那里拿一个P过来，
若是没有拿到的话，它就把goroutine放在一个global runqueue里，而后本身睡眠（放入线程缓存里）。全部的P也会周期性的检查global runqueue并运行其中的goroutine，不然global runqueue上的goroutine永远没法执行。

 

另外一种状况是P所分配的任务G很快就执行完了（分配不均），这就致使了这个处理器P很忙，可是其余的P还有任务，此时若是global runqueue没有任务G了，那么P不得不从其余的P里拿一些G来执行。通常来讲，若是P从其余的P那里要拿任务的话，通常就拿run queue的一半，这就确保了每一个OS线程都能充分的使用，以下图：

3、GPM建立相关问题

M和P的数量如何肯定？或者说什么时候会建立M和P？

一、P的数量：

• 由启动时环境变量$GOMAXPROCS或者是由runtime的方法GOMAXPROCS()决定（默认是1）。这意味着在程序执行的任意时刻都只有$GOMAXPROCS个goroutine在同时运行。

二、M的数量:

• go语言自己的限制：go程序启动时，会设置M的最大数量，默认10000.可是内核很难支持这么多的线程数，因此这个限制能够忽略。
• runtime/debug中的SetMaxThreads函数，设置M的最大数量
• 一个M阻塞了，会建立新的M。

M与P的数量没有绝对关系，一个M阻塞，P就会去建立或者切换另外一个M，因此，即便P的默认数量是1，也有可能会建立不少个M出来。

三、P什么时候建立：在肯定了P的最大数量n后，运行时系统会根据这个数量建立n个P。

四、M什么时候建立：没有足够的M来关联P并运行其中的可运行的G。好比全部的M此时都阻塞住了，而P中还有不少就绪任务，就会去寻找空闲的M，而没有空闲的，就会去建立新的M。

M选择哪个P关联？

• M会选择致使此M被建立的那个P关联。

何时会切换P与M的关联关系？

当M因系统调用而阻塞时（M上运行的G进入了系统调用的时候），M与P会分开，若是此时P的就绪队列中还有任务，
P就会去关联一个空闲的M，或者建立一个M进行关联。（也就是说go不是像libtask同样处理IO阻塞的？不肯定。）

就绪的G如何选择进入哪一个P的就绪队列？

• 默认状况下：由于P的默认数量是1（M不必定是1），因此若是咱们不改变GOMAXPROCS，不管咱们在程序中用go语句建立多少个goroutine，它们都只会被塞入同一个P的就绪队列中。
• 有多个P的状况下：若是修改了GOMAXPROCS或者调用了runtime.GOMAXPROCS，运行时系统会把全部的G均匀的分布在各个P的就绪队列中。

如何保证每一个P的就绪队列中都会有G

若是一个P的就绪队列全部任务都执行完了，那么P会尝试从其余P的就绪队列中取出一部分到本身的就绪队列中，以保证每一个P的就绪队列都有任务能够执行。