[Python爬虫] 6-Scrapy框架

# I.Scrapy框架架构: # 1)框架概念:写一个爬虫,须要[发送网络请求,数据解析,数据存储,反反爬虫机制(更换ip代理、设置请求头等),异步请求等]这些工做若是每次都要本身从零开始写的话,比较浪费时间,所以Scrapy把一些基础的东西封装好了,在他上面写爬虫能够变的更加的高效(爬取效率和开发效率) # 2)框架模块功能: # 1.Engine:核心部分,负责在Spider和ItemP
相关文章
相关标签/搜索