异步爬虫 aiohttp使用

Requests库是一个阻塞式HTTP请求库,当咱们发出一个请求后,程序会一直等待服务器响应,直到获得响应后,程序才会进行下一步处理。其实,这个过程比较耗费资源。若是程序能够在这个等待过程当中作一些其余的事情,如进行请求的调度、响应的处理等,那么爬取效率必定会大大提升。aiohttp就是这样一个提供异步Web服务的库,从Python 3.5版本开始,Python中加入了async/await关键字
相关文章
相关标签/搜索