爬虫 之 Scrapy

一、Scrapy简介 Scrapy 是一种快速的高级web crawling和web scrapying框架，用于对网站进行爬网并从其页面提取结构化数据。它可以用于广泛的用途，从数据挖掘到监控和自动化测试。 框架的力量，用户只需要定制开发几个模块就可以轻松的实现一个爬虫，用来抓取网页内容以及各种图片，非常之方便。 Scrapy 使用了 Twisted'twɪstɪd异步网络框架来处理网络通讯，可以

>>阅读原文<<