034_协程

前言

　　以前咱们学习了线程、进程的概念，了解了在操做系统中进程是资源分配的最小单位,线程是CPU调度的最小单位。按道理来讲咱们已经算是把cpu的利用率提升不少了。可是咱们知道不管是建立多进程仍是建立多线程来解决问题，都要消耗必定的时间来建立进程、建立线程、以及管理他们之间的切换。

　　随着咱们对于效率的追求不断提升，基于单线程来实现并发又成为一个新的课题，即只用一个主线程（很明显可利用的cpu只有一个）状况下实现并发。这样就能够节省建立线进程所消耗的时间。

　　为此咱们须要先回顾下并发的本质：切换+保存状态

 　　cpu正在运行一个任务，会在两种状况下切走去执行其余的任务（切换由操做系统强制控制），一种状况是该任务发生了阻塞，另一种状况是该任务计算的时间过长（每一个程序运行一段时间，切换进行）

　  　

　　ps：在介绍进程理论时，说起进程的三种执行状态，而线程才是执行单位，因此也能够将上图理解为线程的三种状态 

　　 一：其中第二种状况并不能提高效率，只是为了让cpu可以雨露均沾，实现看起来全部任务都被“同时”执行的效果，若是多个任务都是纯计算的，这种切换反而会下降效率。

　　二：第一种状况的切换。在任务一遇到io状况下，切到任务二去执行，这样就能够利用任务一阻塞的时间完成任务二的计算，效率的提高就在于此。

协程介绍

　　协程：是单线程下的并发，又称微线程，纤程。英文名Coroutine。一句话说明什么是线程：协程是一种用户态的轻量级线程，即协程是由用户程序本身控制调度的。

　　协程如何实现并发？
　　　　 对于协程来讲，始终是一个线程，只是不一样的程序块在一个线程内交替执行，实现并发。

1，如何实如今两个程序之间切换？

　　1.1，能够经过  yield  来实现

def func1():
    print(1)
    yield
    print(3)
    yield

def func2():
    g = func1()
    next(g)
    print(2)
    next(g)
    print(4)

func2()

 

def consumer(): while True: n = yield
        print('消费了一个包子%s'%n) def producer(): g = consumer() next(g) for i in range(10): print('生产了包子%s'%i) g.send(i) producer()

用上面的方法yield实现一个消费者模型

　　可是 yield 没法处理IO操做

2，

　　须要强调的是：

#1. python的线程属于内核级别的，即由操做系统控制调度（如单线程遇到io或执行时间过长就会被迫交出cpu执行权限，切换其余线程运行） #2. 单线程内开启协程，一旦遇到io，就会从应用程序级别（而非操做系统）控制切换，以此来提高效率（！！！非io操做的切换与效率无关

　　对比操做系统控制线程的切换，用户在单线程内控制协程的切换

　　优势以下：

#1. 协程的切换开销更小，属于程序级别的切换，操做系统彻底感知不到，于是更加轻量级 #2. 单线程内就能够实现并发的效果，最大限度地利用cpu

　　缺点以下：

#1. 协程的本质是单线程下，没法利用多核，能够是一个程序开启多个进程，每一个进程内开启多个线程，每一个线程内开启协程 #2. 协程指的是单个线程，于是一旦协程出现阻塞，将会阻塞整个线程

　　总结协程特色：

1. 必须在只有一个单线程里实现并发
2. 修改共享数据不需加锁
3. 用户程序里本身保存多个控制流的上下文栈
4. 附加：一个协程遇到IO操做自动切换到其它协程（如何实现检测IO ？yield、greenlet都没法实现，就用到了gevent模块（select机制））

Greenlet模块

　　cmd命令行安装 ：pip3 install greenlet

1，greenlet实现状态切换

 

# from greenlet import greenlet   # 在单线程中切换状态的模块
# def eat1():
#     print('吃鸡腿1')
#     g2.switch()
#     print('吃鸡翅2')
#     g2.switch()
#
# def eat2():
#     print('吃饺子1')
#     g1.switch()
#     print('白切鸡')
#
# g1 = greenlet(eat1)
# g2 = greenlet(eat2)
# g1.switch()

　　单纯的切换（在没有io的状况下或者没有重复开辟内存空间的操做），反而会下降程序的执行速度

#顺序执行
import time def f1(): res=1
    for i in range(100000000): res+=i def f2(): res=1
    for i in range(100000000): res*=i start=time.time() f1() f2() stop=time.time() print('run time is %s' %(stop-start)) #10.985628366470337

#切换
from greenlet import greenlet import time def f1(): res=1
    for i in range(100000000): res+=i g2.switch() def f2(): res=1
    for i in range(100000000): res*=i g1.switch() start=time.time() g1=greenlet(f1) g2=greenlet(f2) g1.switch() stop=time.time() print('run time is %s' %(stop-start)) # 52.763017892837524

效率对比

2，

# 代码之间切换执行 反而会下降效率，由于切换不能规避IO时间。
# 虽然两个程序都在执行，可是，并非同时都在执行，与分别执行相比并无减小IO时间
# yield greenlet 都不能在切换的时候 规避IO时间
# 若是 在同一个程序中 有IO的状况下 才切换  会让效率提升不少

# import time # from greenlet import greenlet # 在单线程中切换状态的模块 # def eat1(): # print('吃鸡腿1') # g2.switch() # 切换到g2对象执行 # time.sleep(5) # 表明执行此处代码消耗的时间 # print('吃鸡翅2') # g2.switch() # # def eat2(): # print('吃饺子1') # g1.switch() # 切换到g1执行，上次没执行完继续。 # time.sleep(3) # 表明执行此处代码消耗的时间 # print('白切鸡') # # g1 = greenlet(eat1) # g2 = greenlet(eat2) # g1.switch() # 切换到g1对象执行 # gevent内部封装了greenlet模块

View Code

Gevent模块

cmd命令行安装：pip3 install gevent

# gevent内部封装了greenlet模块

1， 使用

from gevent from threading import current_thread # 查看什么线程

def func1(): print(current_thread().name)  # dummythread 本程序是虚拟线程
    print(123) gevent.sleep(1)  # 自动切换到g2 # time.sleep(1) 不切换
    print(456) def func2(): print(current_thread().name)   # dummythread
    print('hahaha') gevent.sleep(1)  # 自动切换到g1
    print('10jq') g1 = gevent.spawn(func1)   # 碰见他认识的io会自动切换的模块
g2 = gevent.spawn(func2) # 不加下面两句没有结果，上面的事实运行了， # 可是这两个对象已经提交出去了，和本程序是异步的， # 不加下面两句本程序就执行完了，并结束。 # g1.join() # g2.join()

使用

2，不是自带的IO操做不认识怎么办？

from gevent import monkey;monkey.patch_all()
 # 将这句代码下面导入的全部IO模块都打成包，在使用时就会认识。
import time

　　# IO模块：time     socket     urllib    requests

3，效率对比

　　在一个线程下执行的

from gevent import monkey;monkey.patch_all() import time import gevent def task(args): time.sleep(1) print(args) def sync_func():   # 同步
    for i in range(10): task(i) def async_func(): # 异步
    g_l = [] for i in range(10): g_l.append(gevent.spawn(task,i)) # 给写成任务传参数
 gevent.joinall(g_l) start = time.time() sync_func() # 同步
print(time.time() - start) start = time.time() async_func() # 异步
print(time.time() - start)

效率对比

4，爬取网页信息的例子

def get_url(url): res = requests.get(url) print(url,res.status_code,len(res.text)) url_lst =[ 'http://www.sohu.com', 'http://www.baidu.com', 'http://www.qq.com', 'http://www.python.org', 'http://www.cnblogs.com', 'http://www.mi.com', 'http://www.apache.org', 'https://www.taobao.com', 'http://www.360.com', 'http://www.7daysinn.cn/' ] start = time.time() for url in url_lst: get_url(url) print(time.time() - start) g_lst = [] start = time.time() for url in url_lst: g = gevent.spawn(get_url,url) g_lst.append(g) gevent.joinall(g_lst) print(time.time() - start)

爬网页的例子

5，经过gevent实现单线程下的socket并发

　　注意 ：from gevent import monkey;monkey.patch_all()必定要放到导入socket模块以前，不然gevent没法识别socket的阻塞

from gevent import monkey;monkey.patch_all() from socket import *
import gevent #若是不想用money.patch_all()打补丁,能够用gevent自带的socket # from gevent import socket # s=socket.socket()

def server(server_ip,port): s=socket(AF_INET,SOCK_STREAM) s.setsockopt(SOL_SOCKET,SO_REUSEADDR,1) s.bind((server_ip,port)) s.listen(5) while True: conn,addr=s.accept() gevent.spawn(talk,conn,addr) def talk(conn,addr): try: while True: res=conn.recv(1024) print('client %s:%s msg: %s' %(addr[0],addr[1],res)) conn.send(res.upper()) except Exception as e: print(e) finally: conn.close() if __name__ == '__main__': server('127.0.0.1',8080)

sever

from socket import * client=socket(AF_INET,SOCK_STREAM) client.connect(('127.0.0.1',8080)) while True: msg=input('>>: ').strip() if not msg:continue client.send(msg.encode('utf-8')) msg=client.recv(1024) print(msg.decode('utf-8'))

client

from threading import Thread from socket import *
import threading def client(server_ip,port): c=socket(AF_INET,SOCK_STREAM) #套接字对象必定要加到函数内，即局部名称空间内，放在函数外则被全部线程共享，则你们公用一个套接字对象，那么客户端端口永远同样了
 c.connect((server_ip,port)) count=0 while True: c.send(('%s say hello %s' %(threading.current_thread().getName(),count)).encode('utf-8')) msg=c.recv(1024) print(msg.decode('utf-8')) count+=1
if __name__ == '__main__': for i in range(500): t=Thread(target=client,args=('127.0.0.1',8080)) t.start()

多线程并发多个客户端