Python爬虫之Scrapy框架介绍

Scrapy框架 Scrapy是用纯Python实现一个为了爬取网站数据、提取结构性数据而编写的应用框架，用途非常广泛。 框架的力量，用户只需要定制开发几个模块就可以轻松的实现一个爬虫，用来抓取网页内容以及各种图片，非常方便。 Scrapy使用了Twisted（其主要对手是Tornado）异步网络框架来处理网络通讯，可以加快我们的下载速度，不用我们去实现异步框架，而且包含了各种中间件接口，可以灵活

>>阅读原文<<