常用高效的Python爬虫框架

Python是现在非常流行的编程语言，而爬虫则是Python语言中最典型的应用，下面是ipidea全球http总结的高效Python爬虫框架，大家看看是否都用过呢。 Scrapy是一个为了爬取网站数据，提取结构性数据而编写的应用框架，可以应用在包括数据挖掘，信息处理或存储历史数据等一系列的程序中。 Crawley可以高速爬取对应网站的内容，支持关系和非关系数据库，数据可以导出为JSON、XML等。

>>阅读原文<<