gevent协程

Python经过yield提供了对协程的基本支持,可是不彻底。而第三方的gevent为Python提供了比较完善的协程支持。python

gevent是第三方库,经过greenlet实现协程,其基本思想是:git

当一个greenlet遇到IO操做时,好比访问网络,就自动切换到其余的greenlet,等到IO操做完成,再在适当的时候切换回来继续执行。因为IO操做很是耗时,常常使程序处于等待状态,有了gevent为咱们自动切换协程,就保证总有greenlet在运行,而不是等待IO。github

因为切换是在IO操做时自动完成,因此gevent须要修改Python自带的一些标准库,这一过程在启动时经过monkey patch完成:网络

 

先了解greenlet,这个库用来学习的 功能不是不少。ide

 1 #!/usr/bin/env python
 2 # -*- coding:utf-8 -*-
 3  
 4  
 5 from greenlet import greenlet
 6  
 7  
 8 def test1():
 9     print 12
10     #切换到g2
11     gr2.switch()
12     print 34
13     #切换到g2继续执行上次的任务
14     gr2.switch()
15  
16  
17 def test2():
18     print 56
19     gr1.switch()
20     print 78
21  
22 gr1 = greenlet(test1)
23 gr2 = greenlet(test2)
24 gr1.switch()
View Code

结果:学习

12
56
34
78fetch

经过switc方法能够控制 协程何时切换,协程会记录上次执行的点而后导入这个点继续执行url

 

 

gevent库方法(基于greenlet来作的):spa

 1 from gevent import monkey; monkey.patch_all()
 2 import gevent
 3 import urllib2
 4 
 5 def f(url):
 6     print('GET: %s' % url)
 7     resp = urllib2.urlopen(url)
 8     data = resp.read()
 9     print('%d bytes received from %s.' % (len(data), url))
10 
11 #这里就不想greenlet须要手动切换,这里是自动切换
12 gevent.joinall([
13         gevent.spawn(f, 'https://www.python.org/'),
14         gevent.spawn(f, 'https://www.yahoo.com/'),
15         gevent.spawn(f, 'https://github.com/'),
16 ])
View Code

 

 

openstack中用到的协程模块eventlet3d

 1 import eventlet
 2 from eventlet.green import urllib2
 3 
 4 
 5 urls = [
 6     "http://www.baidu.com",
 7     "https://github.com/",
 8     "http://www.qq.com",
 9 ]
10 
11 
12 def fetch(url):
13     print(url)
14     return url,urllib2.urlopen(url).read()
15 
16 
17 pool = eventlet.GreenPool()
18 
19 
20 for url,body in pool.imap(fetch, urls):
21     print("go:%s === body-len:%d"%(url,len(body)))
View Code
相关文章
相关标签/搜索