使用 Scrapy 构建一个网络爬虫

点击上方“程序员大咖”，选择“置顶公众号” 关键时刻，第一时间送达！ 记得n年前项目需要一个灵活的爬虫工具，就组织了一个小团队用Java实现了一个爬虫框架，可以根据目标网站的结构、地址和需要的内容，做简单的配置开发，即可实现特定网站的爬虫功能。因为要考虑到各种特殊情形，开发还耗了不少人力。后来发现了Python下有这个Scrapy工具，瞬间觉得之前做的事情都白费了。对于一个普通的网络爬虫功能，Sc

>>阅读原文<<