Python爬虫框架Scrapy学习笔记

Python爬虫框架Scrapy学习笔记

 糖宝Python 2019-03-31 18:15

 

scrapy.png

本文主要内容针对Scrapy有初步了解的同窗。结合做者的实际项目中遇到的一些问题，汇成本文。

以后会写一些具体的爬虫demo, 放到 https://github.com/hanguangchao/scrapy_awesome

鉴于做者接触爬虫不久，水平有限，文章不免出现纰漏，还请各位达人留言指导。

在学习中有迷茫不知如何学习的朋友小编推荐一个学Python的学习q u n 227  -435-  450能够来了解一块儿进步一块儿学习！免费分享视频资料

 

内容提要

Scrapy问题记录

Scrapy问题示例代码

Scrapy经常使用代码片断

Scrapy经常使用设置

Scrapy参考资料

安装

 

使用

• 建立一个爬虫项目

 

• scrapy shell 工具

能够利用scrapy shell 分析网页

经过sel.xpath() 返回一个Selector， 能够判断页面结构是否存在。

 

使用中遇到的一些问题

• 一个爬虫项目中，是否支持多个Item？
• 在一个页面抓取多个Item？不一样的Item如何存储？
• 爬虫进入下一级网页？
• 在爬虫中携带自定义数据？
• 重复抓取一个页面的方法？
• 分别指定每一个爬虫的设置？
• 防止爬虫被ban？

针对以上问题，下面给出具体的代码示例

• 定义能够定义多个Item

 

• 具体的爬虫脚本

 

 

• 接第一个问题，多个Item，如何存储？

 

• Spider 自定义设置

使用custom_settings 该设置是一个dict.当启动spider时,该设置将会覆盖项目级的设置. 因为设置必须在初始化(instantiation)前被更新,因此该属性 必须定义为class属性

 

防止爬虫被ban

• 使用user agent池
• 使用IP池
• 禁止Cookie
• 增长下载延迟
• 分布式爬虫
• 一些常见设置

 

经常使用的Middleware

• 使用代理IP

 

• 随机Agent

 

• 使用PhantomJS 抓取JS网页

 

经常使用的Pipeline

过滤重复的Item

 

把Item存储到MySQL的Pipeline

 

 

把Item保存到JSON文件