〖Python〗-- Tornado异步非阻塞

时间 2019-12-08

原文原文链接

【Tornado异步非阻塞】

异步非阻塞

阻塞式：(适用于全部框架，Django,Flask,Tornado,Bottle)
　　一个请求到来未处理完成，后续一直等待
　　解决方案：多线程，多进程

异步非阻塞(存在IO请求)： Tornado(单进程+单线程)
　　使用异步非阻塞，须要遵循Tornado框架内部规则，gen

　　多个链接请求，链接给服务端，若是是有异步非阻塞的话，服务端会接收全部的请求交由后台处理，等待其余连接的同时，原先链接不断开，直至返回后台处理完成的结果！
　　外部请求，链接服务端或在select中建立Future对象，而后服务端再把请求交给业务处理平台，此时select监听的列表中又会生成一个socket对象,当业务平台对请求处理完成以后就会把信息返回到服务端的select监听列表中，同时对这个Future对象赋值，用于标记服务端是否要给客户端返回请求信息。html

　　执行流程，本质上都是返回一个future对象，若是对这个对象被set_result了就返回值，不然就是夯住，一直保持链接，不终止请求。python

一、基本使用mysql

装饰器 + Future 从而实现Tornado的异步非阻塞git

 
         class  
         AsyncHandler(tornado.web.RequestHandler): 
        
         @gen 
         .coroutine 
        
         def  
         get( 
         self 
         ): 
        
         future  
         =  
         Future() 
        
         future.add_done_callback( 
         self 
         .doing) 
        
         yield  
         future 
        
         # 或 
        
         # tornado.ioloop.IOLoop.current().add_future(future,self.doing) 
        
         # yield future 
        
         def  
         doing( 
         self 
         , 
         * 
         args,  
         * 
         * 
         kwargs): 
        
         self 
         .write( 
         'async' 
         ) 
        
         self 
         .finish()

　　当发送GET请求时，因为方法被@gen.coroutine装饰且yield 一个 Future对象，那么Tornado会等待，等待用户向future对象中放置数据或者发送信号，若是获取到数据或信号以后，就开始执行doing方法。github

　　异步非阻塞体如今当在Tornaod等待用户向future对象中放置数据时，还能够处理其余请求。web

　　注意：在等待用户向future对象中放置数据或信号时，此链接是不断开的。sql

二、同步阻塞和异步非阻塞对比数据库

class SyncHandler(tornado.web.RequestHandler):

    def get(self):
        self.doing()
        self.write('sync')

    def doing(self):
        time.sleep(10)

同步阻塞

class AsyncHandler(tornado.web.RequestHandler):
    @gen.coroutine
    def get(self):
        future = Future()
        tornado.ioloop.IOLoop.current().add_timeout(time.time() + 5, self.doing)
        yield future


    def doing(self, *args, **kwargs):
        self.write('async')
        self.finish()

异步非阻塞

三、httpclient类库多线程

　　Tornado提供了httpclient类库用于发送Http请求，其配合Tornado的异步非阻塞使用。app

 
         #!/usr/bin/env python 
        
         # -*- coding:utf-8 -*- 
        
         import  
         tornado.web 
        
         from  
         tornado  
         import  
         gen 
        
         from  
         tornado  
         import  
         httpclient 
        
         # 方式一： 
        
         class  
         AsyncHandler(tornado.web.RequestHandler): 
        
         @gen 
         .coroutine 
        
         def  
         get( 
         self 
         ,  
         * 
         args,  
         * 
         * 
         kwargs): 
        
         print 
         ( 
         '进入' 
         ) 
        
         http  
         =  
         httpclient.AsyncHTTPClient() 
        
         data  
         =  
         yield  
         http.fetch( 
         "http://www.google.com" 
         ) 
        
         print 
         ( 
         '完事' 
         ,data) 
        
         self 
         .finish( 
         '6666' 
         ) 
        
         # 方式二： 
        
         # class AsyncHandler(tornado.web.RequestHandler): 
        
         #     @gen.coroutine 
        
         #     def get(self): 
        
         #         print('进入') 
        
         #         http = httpclient.AsyncHTTPClient() 
        
         #         yield http.fetch("http://www.google.com", self.done) 
        
         # 
        
         #     def done(self, response): 
        
         #         print('完事') 
        
         #         self.finish('666') 
        
         application  
         =  
         tornado.web.Application([ 
        
         (r 
         "/async" 
         , AsyncHandler), 
        
         ]) 
        
         if  
         __name__  
         = 
         =  
         "__main__" 
         : 
        
         application.listen( 
         8888 
         ) 
        
         tornado.ioloop.IOLoop.instance().start()

#!/usr/bin/env python
# -*- coding:utf-8 -*-
"""
须要先安装支持异步操做Mysql的类库： 
    Tornado-MySQL： https://github.com/PyMySQL/Tornado-MySQL#installation
    
    pip3 install Tornado-MySQL

"""

import tornado.web
from tornado import gen

import tornado_mysql
from tornado_mysql import pools

POOL = pools.Pool(
    dict(host='127.0.0.1', port=3306, user='root', passwd='123', db='cmdb'),
    max_idle_connections=1,
    max_recycle_sec=3)


@gen.coroutine
def get_user_by_conn_pool(user):
    cur = yield POOL.execute("SELECT SLEEP(%s)", (user,))
    row = cur.fetchone()
    raise gen.Return(row)


@gen.coroutine
def get_user(user):
    conn = yield tornado_mysql.connect(host='127.0.0.1', port=3306, user='root', passwd='123', db='cmdb',
                                       charset='utf8')
    cur = conn.cursor()
    # yield cur.execute("SELECT name,email FROM web_models_userprofile where name=%s", (user,))
    yield cur.execute("select sleep(10)")
    row = cur.fetchone()
    cur.close()
    conn.close()
    raise gen.Return(row)


class LoginHandler(tornado.web.RequestHandler):
    def get(self, *args, **kwargs):
        self.render('login.html')

    @gen.coroutine
    def post(self, *args, **kwargs):
        user = self.get_argument('user')
        data = yield gen.Task(get_user, user)
        if data:
            print(data)
            self.redirect('http://www.oldboyedu.com')
        else:
            self.render('login.html')


application = tornado.web.Application([
    (r"/login", LoginHandler),
])

if __name__ == "__main__":
    application.listen(8888)
    tornado.ioloop.IOLoop.instance().start()

基于异步非阻塞和Tornado-MySQL实现用户登陆示例

异步非阻塞渐进学习代码+笔记注释

import tornado.ioloop
import tornado.web
from tornado.web import RequestHandler
from tornado.httpserver import HTTPServer

# 单线程操做，请求来排队等待，顺序执行
#人为干预模拟IO设置 sleep10秒
class IndexHandler(RequestHandler):
    def get(self):
        print('开始')
        import time
        time.sleep(10)
        self.write("Hello, world")
        print('结束')

application = tornado.web.Application([
    (r"/index", IndexHandler),
])


if __name__ == "__main__":
    # 单进程单线程
    application.listen(8888)
    tornado.ioloop.IOLoop.instance().start()

    # 利用多进程 实现
    # server = HTTPServer(application)
    # server.bind(8888)
    # server.start(4)  # Forks multiple sub-processes
    # tornado.ioloop.IOLoop.current().start()

s1.py

import tornado.ioloop
import tornado.web
from tornado.web import RequestHandler
from tornado import gen # 执行异步IO 导入gen模块
from tornado.concurrent import Future # 执行异步IO导入 Future模块，引用Future对象
import time

# 单线程 实现异步非阻塞操做！全部的链接请求不等待直接执行
class IndexHandler(RequestHandler):
    @gen.coroutine # 异步IO 固定写法，在请求上以装饰器的形式添加
    def get(self):
        print('开始')
        future = Future() #建立 Future() 对象
        tornado.ioloop.IOLoop.current().add_timeout(time.time() + 10, self.doing) #给当前的客户端添加超时时间，固定写法
        yield future # yield 返回 Future() 对象 IO操做的固定写法

    # 操做完成以后，须要执行的回调函数，通常是用于给请求返回消息
    def doing(self, *args, **kwargs):
        self.write('async') # 返回消息
        self.finish() #结束链接


application = tornado.web.Application([
    (r"/index", IndexHandler),
])


if __name__ == "__main__":
    # 单线程
    application.listen(8888)
    tornado.ioloop.IOLoop.instance().start()

    # 多进程
    # server = HTTPServer(application)
    # server.bind(8888)
    # server.start(4)  # Forks multiple sub-processes
    # tornado.ioloop.IOLoop.current().start()

s2.py

import tornado.ioloop
import tornado.web
from tornado.web import RequestHandler
from tornado import gen
from tornado.concurrent import Future
import time
from tornado import httpclient #针对HTTP请求进行异步非阻塞处理的模块

# 针对API接口 HTTP请求 实现异步非阻塞
class IndexHandler(RequestHandler):
    @gen.coroutine
    def get(self):
        print('收到订单')
        http = httpclient.AsyncHTTPClient() #建立 执行异步非阻塞 客户端
        yield http.fetch("http://www.github.com", self.done) # 固定写法 请求对某个API接口(url地址)传递消息，处理完毕执行回调函数

    #请求处理完毕，执行的回调函数。
    def done(self, response):
        self.write('订单成功') # 给请求返回的信息
        self.finish() # 断开链接

application = tornado.web.Application([
    (r"/index", IndexHandler),
])


if __name__ == "__main__":
    application.listen(8888)
    tornado.ioloop.IOLoop.instance().start()

    # server = HTTPServer(application)
    # server.bind(8888)
    # server.start(4)  # Forks multiple sub-processes
    # tornado.ioloop.IOLoop.current().start()

s3.py

import tornado.ioloop
import tornado.web
from tornado.web import RequestHandler
from tornado import gen
from tornado.concurrent import Future
import time
from tornado import httpclient

fu = None
class IndexHandler(RequestHandler):
    @gen.coroutine
    def get(self):
        global fu
        print('疯狂的追求')
        fu = Future() # 建立Future对象，创建链接，若是没有人改变状态，请求就会永久存在链接不断开，除非Future() 对象被赋值或是反生改变
        # fu.set_result("") # 给Future 对象赋值，fu发生变化，返回请求。
        fu.add_done_callback(self.done)# 给fu添加要执行的回调函数
        yield fu

    def done(self, response):
        self.write('终于等到你')
        self.finish()

class TestHandler(RequestHandler):
    def get(self):
        fu.set_result(666) # 给future对象赋值，用以改变链接状态，返回消息 (注意：返回的内容就是 result的值)
        self.write('我只能帮你到这里了')

application = tornado.web.Application([
    (r"/index", IndexHandler),
    (r"/test", TestHandler),
])


if __name__ == "__main__":
    application.listen(8888)
    tornado.ioloop.IOLoop.instance().start()

s4.py

import tornado.ioloop
import tornado.web
from tornado.web import RequestHandler
from tornado import gen
from tornado.concurrent import Future
import time
from tornado import httpclient
from threading import Thread

def waiting(futher):
    #线程要执行处理的函数
    import time
    time.sleep(10)
    futher.set_result(666)


class IndexHandler(RequestHandler):
    @gen.coroutine
    def get(self):
        global fu
        print('疯狂的追求')
        fu = Future()
        fu.add_done_callback(self.done)

        thread = Thread(target=waiting,args=(fu,)) # 开一个线程 自动给设置值，以自动给请求返回处理的消息
        thread.start()

        yield fu

    def done(self, response):
        self.write('终于等到你')
        self.finish()


application = tornado.web.Application([
    (r"/index", IndexHandler),
])


if __name__ == "__main__":
    application.listen(8888)
    tornado.ioloop.IOLoop.instance().start()

s5.py

import tornado.web
import tornado.ioloop
from tornado import gen
import tornado_mysql

@gen.coroutine # 注意须要写上装饰器
def get_user(user):
    # 异步非阻塞，Task操做的函数，链接数据库，注意语法结构
    conn = yield tornado_mysql.connect(host='127.0.0.1', port=3306, user='root', passwd='123', db='tornadoTest',
                                       charset='utf8')
    cur = conn.cursor()
    # yield cur.execute("SELECT name,email FROM web_models_userprofile where name=%s", (user,))
    yield cur.execute("select sleep(10)")
    row = cur.fetchone()
    cur.close()
    conn.close()
    raise gen.Return(row) # 注意task函数的返回值


class LoginHandler(tornado.web.RequestHandler):
    def get(self, *args, **kwargs):
        self.render('login.html')

    @gen.coroutine
    def post(self, *args, **kwargs):
        user = self.get_argument('user')
        data = yield gen.Task(get_user, user) # 执行Task函数，内部仍是返回future对象。Task函数上第一个参数是要执行的函数，第二个是参数
        if data:
            print(data)
            self.redirect('http://www.baidu.com')
        else:
            self.render('login.html')

    #原始方案，请求来了，链接数据库，等待操做完成，关闭链接！
    # def post(self, *args, **kwargs):
    #     user = self.get_argument('user')
    #     # 链接数据库: IO耗时
    #     # 查询语句： IO耗时
    #     # 获取结果
    #     data = {'id':1,'user':'alex'}
    #     if data:
    #         print(data)
    #         self.redirect('http://www.baidu.com')
    #     else:
    #         self.render('login.html')


application = tornado.web.Application([
    (r"/login", LoginHandler),
])

if __name__ == "__main__":
    application.listen(8888)
    tornado.ioloop.IOLoop.instance().start()

s6.py