Python爬虫之Scrapy学习（基础篇）

做者：xiaoyu
微信公众号：Python数据科学
知乎：Python数据分析师

---

在爬虫的路上，学习scrapy是一个必不可少的环节。也许有好多朋友此时此刻也正在接触并学习scrapy，那么很好，咱们一块儿学习。开始接触scrapy的朋友可能会有些疑惑，毕竟是一个框架，上来不知从何学起。从本篇起，博主将开启scrapy学习的系列，分享如何快速入门scrapy并熟练使用它。

本篇做为第一篇，主要介绍和了解scrapy，在结尾会向你们推荐一本关于学习scrapy的书，以及获取的方式。

为何要用爬虫框架？

若是你对爬虫的基础知识有了必定了解的话，那么是时候该了解一下爬虫框架了。那么为何要使用爬虫框架？

• 学习框架的根本是学习一种编程思想，而不该该仅仅局限因而如何使用它。从了解到掌握一种框架，实际上是对一种思想理解的过程。
• 框架也给咱们的开发带来了极大的方便。许多条条框框都已是写好了的，并不须要咱们重复造轮子，咱们只须要根据本身的需求定制本身要实现的功能就行了，大大减小了工做量。
• 参考并学习优秀的框架代码，提高编程代码能力。

博主当时是根据这几点来进行爬虫框架的学习的，可是切记核心目标是掌握一种框架思想，一种框架的能力，掌握了这种思想你才能更好的去使用它，甚至扩展它。

scrapy框架的介绍

比较流行的爬虫的框架有scrapy和pyspider，可是被你们所钟爱的我想非scrapy莫属了。scrapy是一个开源的高级爬虫框架，咱们能够称它为"scrapy语言"。它使用python编写，用于爬取网页，提取结构性数据，并可将抓取得结构性数据较好的应用于数据分析和数据挖掘。scrapy有如下的一些特色：

• scrapy基于事件的机制，利用twisted的设计实现了非阻塞的异步操做。这相比于传统的阻塞式请求，极大的提升了CPU的使用率，以及爬取效率。
• 配置简单，能够简单的经过设置一行代码实现复杂功能。
• 可拓展，插件丰富，好比分布式scrapy + redis、爬虫可视化等插件。
• 解析方便易用，scrapy封装了xpath等解析器，提供了更方便更高级的selector构造器，可有效的处理破损的HTML代码和编码。

scrapy和requests+bs用哪一个好？

有的朋友问了，为何要使用scrapy，不使用不行吗？用resquests + beautifulsoup组合难道不能完成吗？

不用纠结，根据本身方便来。resquests + beautifulsoup固然能够了，requests + 任何解析器都行，都是很是好的组合。这样用的优势是咱们能够灵活的写咱们本身的代码，没必要拘泥于固定模式。对于使用固定的框架有时候不必定用起来方便，好比scrapy对于反反爬的处理并无很完善，好多时候也要本身来解决。

可是对于一些中小型的爬虫任务来说，scrapy确实是很是好的选择，它避免了咱们来写一些重复的代码，而且有着出色的性能。咱们本身写代码的时候，好比为了提升爬取效率，每次都本身码多线程或异步等代码，大大浪费了开发时间。这时候使用已经写好的框架是再好不过的选择了，咱们只要简单的写写解析规则和pipeline就行了。那么具体哪些是须要咱们作的呢？看看下面这个图就明白了。

参考来源在本文末

所以，对于该用哪一个，根据我的需求和喜爱决定。可是至于学习的前后顺序，博主建议先学学resquests + beautifulsoup，而后再接触Scrapy效果可能会更好些，仅供参考。

scrapy的架构

在学习Scrapy以前，咱们须要了解Scrapy的架构，明白这个架构对学习scrapy相当重要。

Scrapy官方文档的图片

下面的描述引自官方doc文档（在此引用），讲的很清楚明白，对照这个图看就能明白。

组件

Scrapy Engine
引擎负责控制数据流在系统中全部组件中流动，并在相应动做发生时触发事件。 详细内容查看下面的数据流(Data Flow)部分。

调度器(Scheduler)
调度器从引擎接受request并将他们入队，以便以后引擎请求他们时提供给引擎。

下载器(Downloader)
下载器负责获取页面数据并提供给引擎，然后提供给spider。

Spiders
Spider是Scrapy用户编写用于分析response并提取item(即获取到的item)或额外跟进的URL的类。 每一个spider负责处理一个特定(或一些)网站。

Item Pipeline
Item Pipeline负责处理被spider提取出来的item。典型的处理有清理、 验证及持久化(例如存取到数据库中)。

下载器中间件(Downloader middlewares)
下载器中间件是在引擎及下载器之间的特定钩子(specific hook)，处理Downloader传递给引擎的response。 其提供了一个简便的机制，经过插入自定义代码来扩展Scrapy功能。

Spider中间件(Spider middlewares)
Spider中间件是在引擎及Spider之间的特定钩子(specific hook)，处理spider的输入(response)和输出(items及requests)。 其提供了一个简便的机制，经过插入自定义代码来扩展Scrapy功能。

数据流过程

1. 引擎打开一个网站(open a domain)，找处处理该网站的Spider并向该spider请求第一个要爬取的URL(s)。
2. 引擎从Spider中获取到第一个要爬取的URL并在调度器(Scheduler)以Request调度。
3. 引擎向调度器请求下一个要爬取的URL。
4. 调度器返回下一个要爬取的URL给引擎，引擎将URL经过下载中间件(请求(request)方向)转发给下载器(Downloader)。
5. 一旦页面下载完毕，下载器生成一个该页面的Response，并将其经过下载中间件(返回(response)方向)发送给引擎。
6. 引擎从下载器中接收到Response并经过Spider中间件(输入方向)发送给Spider处理。
7. Spider处理Response并返回爬取到的Item及(跟进的)新的Request给引擎。
8. 引擎将(Spider返回的)爬取到的Item给Item Pipeline，将(Spider返回的)Request给调度器。
9. (从第二步)重复直到调度器中没有更多地request，引擎关闭该网站。

scrapy学习参考

下面博主列出两个学习scrapy的参考资料。

• 第一个固然不用说了，scrapy的官方文档，写的很好，很详细。连接：https://doc.scrapy.org/en/lat...
• 第二个是一本关于scrapy的书籍，《learning scrapy》。能够经过在公众号发送 "scrapy"来得到。

参考：
https://doc.scrapy.org/en/lat...
https://www.cnblogs.com/x-pyu...

---

关注微信公众号Python数据科学，获取 120G 人工智能 学习资料。