面试官:换人!他连进程、线程、协程这几个特色都说不出

前言

在操做系统课程的学习中,不少人对进程线程有大致的认识,但操做系统教材更偏向于理论叙述,本文会结合 Linux 系统实现分析,更加印象深入。python

同时,大部分人都接触进程和线程比较多,对协程知之甚少,然而最近协程并发编程技术火热起来,但愿读完本文你对协程也有一个基本的了解。linux

话很少说,咱们立刻进入本文的学习。程序员

进程

首先仍是说下「程序」的概念,程序是一些保存在磁盘上的指令的有序集合,是静态的。进程是程序执行的过程,包括了动态建立、调度和消亡的整个过程,进程是程序资源管理的最小单位面试

进程与资源

那么进程都管理哪些资源呢?一般包括内存资源、IO资源、信号处理等部分。编程

面试官:换人!他连进程、线程、协程这几个特色都说不出


程序和进程网络

篇幅有限着重说一下内存管理,进程运行起来必然会涉及到对内存资源的管理。内存资源有限,操做系统采用虚拟内存技术,把进程虚拟地址空间划分红用户空间和内核空间。数据结构

地址空间

4GB序的进程虚拟地址空间被分红两部分:用户空间和内核空间多线程

面试官:换人!他连进程、线程、协程这几个特色都说不出


用户空间内核空间并发

用户空间

用户空间按照访问属性一致的地址空间存放在一块儿的原则,划分红 5个不一样的内存区域。访问属性指的是“可读、可写、可执行等 。ssh

  • 代码段代码段是用来存放可执行文件的操做指令,可执行程序在内存中的镜像。代码段须要防止在运行时被非法修改,因此只准许读取操做,它是不可写的。

  • 数据段数据段用来存放可执行文件中已初始化全局变量,换句话说就是存放程序静态分配的变量和全局变量。

  • BSS段BSS段包含了程序中未初始化的全局变量,在内存中 bss 段所有置零。

  • 对 heap堆是用于存放进程运行中被动态分配的内存段,它的大小并不固定,可动态扩张或缩减。当进程调用malloc等函数分配内存时,新分配的内存就被动态添加到堆上(堆被扩张);当利用free等函数释放内存时,被释放的内存从堆中被剔除(堆被缩减)

  • 栈 stack栈是用户存放程序临时建立的局部变量,也就是函数中定义的变量(但不包括 static 声明的变量,static意味着在数据段中存放变量)。除此之外,在函数被调用时,其参数也会被压入发起调用的进程栈中,而且待到调用结束后,函数的返回值也会被存放回栈中。因为栈的先进后出特色,因此栈特别方便用来保存/恢复调用现场。从这个意义上讲,咱们能够把堆栈当作一个寄存、交换临时数据的内存区。

上述几种内存区域中数据段、BSS 段、堆一般是被连续存储在内存中,在位置上是连续的,而代码段和栈每每会被独立存放。堆和栈两个区域在 i386 体系结构中栈向下扩展、堆向上扩展,相对而生。

面试官:换人!他连进程、线程、协程这几个特色都说不出


程序内存分段

你也能够在 linux 下用size 命令查看编译后程序的各个内存区域大小:

[lemon ~]# size /usr/local/sbin/sshd
   text    data     bss     dec     hex filename
1924532   12412  426896 2363840  2411c0 /usr/local/sbin/sshd

内核空间

在 x86 32 位系统里,Linux 内核地址空间是指虚拟地址从 0xC0000000 开始到 0xFFFFFFFF 为止的高端内存地址空间,总计 1G 的容量, 包括了内核镜像、物理页面表、驱动程序等运行在内核空间 。

面试官:换人!他连进程、线程、协程这几个特色都说不出


内核空间地址映射

线程

线程是操做操做系统可以进行运算调度的最小单位。线程被包含在进程之中,是进程中的实际运做单位,一个进程内能够包含多个线程,线程是资源调度的最小单位。

面试官:换人!他连进程、线程、协程这几个特色都说不出


多线程程序模型

线程资源和开销

同一进程中的多条线程共享该进程中的所有系统资源,如虚拟地址空间,文件描述符文件描述符和信号处理等等。但同一进程中的多个线程有各自的调用栈、寄存器环境、线程本地存储等信息。

线程建立的开销主要是线程堆栈的创建,分配内存的开销。这些开销并不大,最大的开销发生在线程上下文切换的时候。

面试官:换人!他连进程、线程、协程这几个特色都说不出


线程切换

线程分类

还记得刚开始咱们讲的内核空间和用户空间概念吗?线程按照实现位置和方式的不一样,也分为用户级线程和内核线程,下面一块儿来看下这两类线程的差别和特色。

用户级线程

实如今用户空间的线程称为用户级线程。用户线程是彻底创建在用户空间的线程库,用户线程的建立、调度、同步和销毁全由用户空间的库函数完成,不须要内核的参与,所以这种线程的系统资源消耗很是低,且很是的高效。

特色

  • 用户线级线程只能参与竞争该进程的处理器资源,不能参与全局处理器资源的竞争。

  • 用户级线程切换都在用户空间进行,开销极低。

  • 用户级线程调度器在用户空间的线程库实现,内核的调度对象是进程自己,内核并不知道用户线程的存在。

面试官:换人!他连进程、线程、协程这几个特色都说不出


用户线程图解

缺点

  • 若是触发了引发阻塞的系统调用的调用,会当即阻塞该线程所属的整个进程。

  • 系统只看到进程看不到用户线程,因此只有一个处理器内核会被分配给该进程 ,也就不能发挥多久 CPU 的优点 。

内核级线程

内核线程创建和销毁都是由操做系统负责、经过系统调用完成,内核维护进程及线程的上下文信息以及线程切换。

特色

  • 内核级线级能参与全局的多核处理器资源分配,充分利用多核 CPU 优点。

  • 每一个内核线程均可被内核调度,由于线程的建立、撤销和切换都是由内核管理的。

  • 一个内核线程阻塞与他同属一个进程的线程仍然能继续运行。

面试官:换人!他连进程、线程、协程这几个特色都说不出


内核线程图解

缺点

  • 内核级线程调度开销较大。调度内核线程的代价可能和调度进程差很少昂贵,代价要比用户级线程大不少。

  • 线程表是存放在操做系统固定的表格空间或者堆栈空间里,因此内核级线程的数量是有限的。

Linux 线程实现

Linux 并无为线程准备特定的数据结构,由于 Linux只有task_struct这一种描述进程的结构体。在内核看来只有进程而没有线程,线程调度时也是当作进程来调度的。Linux所谓的线程实际上是与其余进程共享资源的轻量级进程

为何说是轻量级呢?在于它只有一个最小的执行上下文和调度程序所需的统计信息,它只带有进程执行相关的信息,与父进程共享进程地址空间 。

轻量级进程

轻量级线程 Light-weight Process简称LWP ,是一种由内核支持的用户线程,每个轻量级进程都与一个特定的内核线程关联。

它是基于内核线程的高级抽象,系统只有先支持内核线程才能有 LWP。每个进程有一个或多个 LWPs ,每一个LWP 由一个内核线程支持,在这种实现的操做系统中 LWP 就是用户线程。

面试官:换人!他连进程、线程、协程这几个特色都说不出


轻量级进程

轻量级进程最先在Linux 内核 2.0.x 版本就已实现,应用程序经过一个统一的 clone() 系统调用接口,用不一样的参数指定建立的进程是轻量进程仍是普通进程。

特色和缺点

因为轻量轻量级进程基于内核线程实现,所以它的特色和缺点就是内核线程的缺点,这里再也不赘述。

查看 LWP 信息

轻量级线程也没什么神秘的,还记得我在这篇文章《资深程序员总结:分析Linux进程的6个方法,我全都告诉你》教你的方法吗?咱们用 Linux 的 pstack 命令能够查看进程的轻量级线程 LWP 信息。下图的黄色字体就是打印出的轻量级线程 ID ,以及该线程的调用堆栈信息,从最新的栈帧开始往下排列。

用法示例:pstack pid

面试官:换人!他连进程、线程、协程这几个特色都说不出


pstack查看lwp

协程

协程的知名度好像不是很高,在之前咱们谈论高并发,大部分人都知道利用多线程和多进程部署服务,提升服务性能,但通常不会提到协程。其实协程的概念出来的比线程还早,只不过最近才被人们更多的提起。

协程之因此最近被你们熟知,我的以为是 Python 和 Go 从语言层面提供了对协程更好的支持,尤为是以 Goroutine 为表明的 Go 协程实现,很大程度上下降了协程使用门槛,能够说是后起之秀了!

面试官:换人!他连进程、线程、协程这几个特色都说不出


why 协程

当今无数的 Web 服务和互联网服务,本质上大部分都是 IO 密集型服务,什么是 IO 密集型服务?意思是处理的任务大可能是和网络链接或读写相关的高耗时任务,高耗时是相对 CPU 计算逻辑处理型任务来讲,二者的处理时间差距不是一个数量级的。

IO 密集型服务的瓶颈不在 CPU 处理速度,而在于尽量快速的完成高并发、多链接下的数据读写。

之前有两种解决方案:

  • 若是用多线程,高并发场景的大量 IO 等待会致使多线程被频繁挂起和切换,很是消耗系统资源,同时多线程访问共享资源存在竞争问题。

  • 若是用多进程,不只存在频繁调度切换问题,同时还会存在每一个进程资源不共享的问题,须要额外引入进程间通讯机制来解决。

协程出现给高并发和 IO 密集型服务开发提供了另外一种选择。

固然,世界上没有技术银弹。在这里我想把协程这把钥匙交到你手中,可是它也不是万能钥匙,最好的解决方案是贴合自身业务类型作出最优选择,不必定就选择一种模型,有时候是几种模型的组合,好比多线程搭配协程是常见的组合。

什么是协程

那什么是协程呢?携程 Coroutines 是一种比线程更加轻量级的微线程。类比一个进程能够拥有多个线程,一个线程也能够拥有多个协程,所以协程又称为线程和线程。

面试官:换人!他连进程、线程、协程这几个特色都说不出


协程图解

能够粗略的把协程理解成子程序调用,每一个子程序均可以在一个单独的协程内执行。

面试官:换人!他连进程、线程、协程这几个特色都说不出


协程子程序模型

调度开销

线程是被内核所调度,线程被调度切换到另外一个线程上下文的时候,须要保存一个用户线程的状态到内存,恢复另外一个线程状态到寄存器,而后更新调度器的数据结构,这几步操做设计用户态到内核态转换,开销比较多。

面试官:换人!他连进程、线程、协程这几个特色都说不出


线程切换

协程的调度彻底由用户控制,协程拥有本身的寄存器上下文和栈,协程调度切换时,将寄存器上下文和栈保存到其余地方,在切回来的时候,恢复先前保存的寄存器上下文和栈,直接操做用户空间栈,彻底没有内核切换的开销。

面试官:换人!他连进程、线程、协程这几个特色都说不出


协程切换

动态协程栈

协程拥有本身的寄存器上下文和栈,协程调度切换时将寄存器上下文和栈保存下来,在切回来的时候,恢复先前保存的寄存器的上下文和栈。

Goroutine 是 Golang 的协程实现。Goroutine 的栈只有 2KB大小,并且是动态伸缩的,能够按需调整大小,最大可达 1G 相比线程来讲既不浪费又灵活了不少,能够说是至关的nice了!

线程也都有一个固定大小的内存块来作栈,通常会是 2MB 大小,线程栈会用来存储线程上下文信息。2MB 的线程栈和协程栈相比大了不少。

面试官:换人!他连进程、线程、协程这几个特色都说不出


线程和协程栈对比

协程实现

Python协程实现

python 2.5 中引入 yield/send 表达式用于实现协程,但这种经过生成器的方式使用协程不够优雅。

python 3.5 以后引入async/await ,简化了协程的使用而且更加便于理解。

Go语言协程实现

Golang 在语言层面实现了对协程的支持,Goroutine 是协程在 Go 语言中的实现, 在 Go 语言中每个并发的执行单元叫做一个 Goroutine ,Go 程序能够轻松建立成百上千个协程并发执行。

Go 协程调度器有三个重要数据结构:

  • G 表示 Goroutine ,它是一个待执行的任务;

  • M 表示操做系统的线程,它由操做系统的调度器调度和管理;

  • P 表示处理器 Processor,它能够被看作运行在线程上的本地调度器;

面试官:换人!他连进程、线程、协程这几个特色都说不出


协商调度

Go 调度器最多能够建立 10000 个线程,但能够经过设置 GOMAXPROCS 变量指可以正常运行的线程数, 这个变量的默认值 等于 CPU 个数,也就是线程数等于 CPU 核数,这样不会触发操做系统的线程调度和上下文切换,全部的调度由 Go 语言调度器触发,都是在用户态,减小了很是多的调用开销。

总结

这篇文章讲解和对比了进程、线程的概念,同时经过进程窥探到操做系统内存管理的冰山一角,另外还讲解了具体到 Linux 系统下线程的实现现状,顺势引出了轻量级进程的概念。最后着重说明了大部分同窗不太了解的协程,经过对比不一样的服务模型,带你了解协程的特色。