Scrapy 爬虫完整案例-进阶篇
Scrapy 爬虫完整案例-进阶篇
1.1 进阶篇案例一
案例：爬取豆瓣电影 top250( movie.douban.com/top250 )的电影数据，并保存在 MongoDB 中。数据库
案例步骤：服务器
第一步：明确爬虫须要爬取的内容。app
咱们作爬虫的时候，须要明确须要爬取的内容，豆瓣电影 TOP 250，咱们须要抓取每一部电影的名字，电影的描述信息（包括导演、主演、电影类型等等），电影的评分，以及电影中最经典或者脍炙人口的一句话。dom
例如：肖申克的救赎scrapy
电影的名字：肖申克的救赎。ide
电影信息（导演：弗兰克·德拉邦特；主演：蒂姆·罗宾斯 / 摩根·弗里曼 / 鲍勃·冈顿 / 威廉姆·赛德勒 / 克兰西·布朗 / 更多...；电影类型：剧情 / 犯罪。）工具
豆瓣电影评分：9.6。网站
脍炙人口的一句话：但愿让人自由。ui
第二步：建立爬虫项目。搜索引擎
在 dos下切换到目录
D:\scrapy_project
新建一个新的爬虫项目：scrapy startproject douban
第三步:建立爬虫。
在 dos下切换到目录。
D:\scrapy_project\douban\douban\spiders
用命令 scrapy genspider doubanmovie "movie.douban.com" 建立爬虫。
第四步: 开始前的准备工做。
(一)、在 scrapy.cfg 同级目录下建立 pycharm 调试脚本 run.py，内容以下：
# -*- coding: utf-8 -*-
from scrapy import cmdline
cmdline.execute("scrapy crawl doubanmovie".split())
(二)、修改 settings 中的 ROBOTSTXT_OBEY = True 参数为 False,由于默认为 True，就是要遵照 robots.txt 的规则， robots.txt 是遵循 Robot协议 的一个文件，它保存在网站的服务器中，它的做用是，告诉搜索引擎爬虫，本网站哪些目录下的网页不但愿你进行爬取收录。在 Scrapy 启动后，会在第一时间访问网站的 robots.txt 文件，而后决定该网站的爬取范围。查看 robots.txt 能够直接网址后接 robots.txt 便可。
例如百度：https://www.baidu.com/robots.txt
修改 settings 文件。
(三)、settings.py 里添加 USER_AGENT。
(四)不须要模拟登录，settings.py 里的 COOKIES_ENABLED ( Cookies中间件) 设置禁用状态。
COOKIES_ENABLED = False
第五步: 定义 Item，编写 items.py 文件。
import scrapy
class DoubanItem(scrapy.Item):
# 电影标题
title = scrapy.Field()
# 电影信息
bd = scrapy.Field()
# 豆瓣评分
star = scrapy.Field()
# 脍炙人口的一句话
quote = scrapy.Field()
第六步: 查看HTML源码，使用XPath helper爬虫插件一块儿查看须要爬取的字段的 xpath 路径。
# 电影标题
item['title'] = each.xpath(".//span[@class='title'][1]/text()").extract()[0]
# 电影信息
item['bd'] = each.xpath(".//div[@class='bd']/p/text()").extract()[0]
# 豆瓣评分
item['star'] = each.xpath(".//div[@class='star']/span[@class='rating_num']/text()").extract()[0]
# 脍炙人口的一句话
quote = each.xpath(".//p[@class='quote']/span/text()").extract()
备注：extract()返回的是一个列表，列表里的每一个元素是一个对象，extract()把这些对象转换成 Unicode 字符串。
第七步: 分析网站分页的 URL 规律。
第一页的连接地址：
https://movie.douban.com/top250?start=0
第二页的连接地址：
https://movie.douban.com/top250?start=25
最十页的连接地址:
https://movie.douban.com/top250?start=225
经过分析咱们得知，每一页的的连接地址 start 的值递增 25，就是下一页的地址。
第八步: 编写爬虫文件。
import scrapy,sys,os
path = os.path.dirname(os.path.dirname(os.path.dirname(os.path.abspath(__file__))))
sys.path.append(path)
from douban.items import DoubanItem
class DoubamovieSpider(scrapy.Spider):
name = "doubanmovie"
allowed_domains = ["movie.douban.com"]
offset = 0
url = "https://movie.douban.com/top250?start="
start_urls = (
url + str(offset),
)
def parse(self, response):
item = DoubanItem()
movies = response.xpath("//div[@class='info']")
for each in movies:
# 电影标题
item['title'] = each.xpath(".//span[@class='title'][1]/text()").extract()[0]
# 电影信息
item['bd'] = each.xpath(".//div[@class='bd']/p/text()").extract()[0]
# 豆瓣评分
item['star'] = each.xpath(".//div[@class='star']/span[@class='rating_num']/text()").extract()[0]
# 脍炙人口的一句话
quote = each.xpath(".//p[@class='quote']/span/text()").extract()
if len(quote) != 0:
item['quote'] = quote[0]
yield item
if self.offset < 225:
self.offset += 25
yield scrapy.Request(self.url + str(self.offset), callback = self.parse)
第九步:在settings.py文件里设置管道文件。
ITEM_PIPELINES = {
'douban.pipelines.DoubanPipeline': 300,
}
第十步:建立 MongoDB 数据库"Douban"和存放爬虫数据的表"doubanmovies"。
在MongoDB中建立一个叫"Douban"的库。
MongoDB 建立数据库的语法格式以下：
use DATABASE_NAME
若是数据库不存在，则建立数据库，不然切换到指定数据库。
备注：刚建立的数据库 Douban并不在数据库的列表中， 要显示它，咱们须要向 Douban 数据库插入一些数据或者建立表。
建立表：db.createCollection("doubanmovies")
语法格式：
db.createCollection(name, options)
建立表完成，再去查 MongoDB 中的库就显示了 Douban 库。
查看表：show collections
第十一步:在settings.py文件里配置 MongoDB 链接配置项。
# MONGODB 主机名
MONGODB_HOST = "127.0.0.1"
# MONGODB 端口号
MONGODB_PORT = 27017
# 数据库名称
MONGODB_DBNAME = "Douban"
# 存放数据的表名称
MONGODB_SHEETNAME = "doubanmovies"
第十二步: 编写 pipelines 管道文件（把数据存储到 MongoDB）。
import pymongo
from scrapy.conf import settings
class DoubanPipeline(object):
def __init__(self):
host = settings["MONGODB_HOST"]
port = settings["MONGODB_PORT"]
dbname = settings["MONGODB_DBNAME"]
sheetname= settings["MONGODB_SHEETNAME"]
# 建立MONGODB数据库连接
client = pymongo.MongoClient(host = host, port = port)
# 指定数据库
mydb = client[dbname]
# 存放数据的数据库表名
self.sheet = mydb[sheetname]
def process_item(self, item, spider):
data = dict(item)
self.sheet.insert(data)
return item
第十三步: 执行run.py文件，运行爬虫。
第十四步: 查看 MongoDB 数据库。
显示的只是一部分数据（Type "it" for more），若是想看完整的数据，能够经过 MongoDB 数据库自带的图形化客户端工具（MongoDB Compass Community）查看。
1.2 进阶篇案例二
案例：使用下载中间件（Downloader Middlewares）改写爬取豆瓣电影top250案例
案例步骤：
第一步：建立爬虫项目。
在 dos下切换到目录
D:\scrapy_project
新建一个新的爬虫项目：scrapy startproject douban2
第二步:建立爬虫。
在 dos下切换到目录。
D:\scrapy_project\douban2\douban2\spiders
用命令 scrapy genspider doubanmovie2 "movie.douban.com" 建立爬虫。
第三步: 开始前的准备工做。
(一)、在 scrapy.cfg 同级目录下建立 pycharm 调试脚本 run.py，内容以下：
# -*- coding: utf-8 -*-
from scrapy import cmdline
cmdline.execute("scrapy crawl doubanmovie".split())
(二)、修改 settings 中的 ROBOTSTXT_OBEY = True 参数为 False,由于默认为 True，就是要遵照 robots.txt 的规则， robots.txt 是遵循 Robot协议 的一个文件，它保存在网站的服务器中，它的做用是，告诉搜索引擎爬虫，本网站哪些目录下的网页不但愿你进行爬取收录。在 Scrapy 启动后，会在第一时间访问网站的 robots.txt 文件，而后决定该网站的爬取范围。查看 robots.txt 能够直接网址后接 robots.txt 便可。
例如百度：https://www.baidu.com/robots.txt
修改 settings 文件。
(三)不须要模拟登录，settings.py 里的 COOKIES_ENABLED ( Cookies中间件) 设置禁用状态。
COOKIES_ENABLED = False
备注：截图使用的是案例一，步骤参考案例一。
第四步: 定义 Item，编写 items.py 文件。
import scrapy
class DoubanItem(scrapy.Item):
# 电影标题
title = scrapy.Field()
# 电影信息
bd = scrapy.Field()
# 豆瓣评分
star = scrapy.Field()
# 脍炙人口的一句话
quote = scrapy.Field()
第五步: 编写爬虫文件。
import scrapy,sys,os
path = os.path.dirname(os.path.dirname(os.path.dirname(os.path.abspath(__file__))))
sys.path.append(path)
from douban.items import DoubanItem
class DoubamovieSpider(scrapy.Spider):
name = "doubanmovie"
allowed_domains = ["movie.douban.com"]
offset = 0
url = "https://movie.douban.com/top250?start="
start_urls = (
url + str(offset),
)
def parse(self, response):
item = DoubanItem()
movies = response.xpath("//div[@class='info']")
for each in movies:
# 电影标题
item['title'] = each.xpath(".//span[@class='title'][1]/text()").extract()[0]
# 电影信息
item['bd'] = each.xpath(".//div[@class='bd']/p/text()").extract()[0]
# 豆瓣评分
item['star'] = each.xpath(".//div[@class='star']/span[@class='rating_num']/text()").extract()[0]
# 脍炙人口的一句话
quote = each.xpath(".//p[@class='quote']/span/text()").extract()
if len(quote) != 0:
item['quote'] = quote[0]
yield item
if self.offset < 225:
self.offset += 25
yield scrapy.Request(self.url + str(self.offset), callback = self.parse)
第六步:在settings.py文件里设置管道文件。
ITEM_PIPELINES = {
'douban.pipelines.DoubanPipeline': 300,
}
第七步:建立 MongoDB 数据库"Douban"和存放爬虫数据的表"doubanmovies"。
在MongoDB中建立一个叫"Douban"的库。
MongoDB 建立数据库的语法格式以下：
use DATABASE_NAME
若是数据库不存在，则建立数据库，不然切换到指定数据库。
备注：刚建立的数据库 Douban 并不在数据库的列表中， 要显示它，咱们须要向 Douban 数据库插入一些数据或者建立表。
建立表：db.createCollection("doubanmovies")
语法格式：
db.createCollection(name, options)
建立表完成，再去查 MongoDB 中的库就显示了 Douban 库。
查看表：show collections
第八步:在settings.py文件里配置 MongoDB 链接配置项。
# MONGODB 主机名
MONGODB_HOST = "127.0.0.1"
# MONGODB 端口号
MONGODB_PORT = 27017
# 数据库名称
MONGODB_DBNAME = "Douban"
# 存放数据的表名称
MONGODB_SHEETNAME = "doubanmovies"
第九步: 编写 pipelines 管道文件（把数据存储到 MongoDB）。
import pymongo
from scrapy.conf import settings
class DoubanPipeline(object):
def __init__(self):
host = settings["MONGODB_HOST"]
port = settings["MONGODB_PORT"]
dbname = settings["MONGODB_DBNAME"]
sheetname= settings["MONGODB_SHEETNAME"]
# 建立MONGODB数据库连接
client = pymongo.MongoClient(host = host, port = port)
# 指定数据库
mydb = client[dbname]
# 存放数据的数据库表名
self.sheet = mydb[sheetname]
def process_item(self, item, spider):
data = dict(item)
self.sheet.insert(data)
return item
第十步: 在settings.py文件里添加下载中间件（Downloader Middlewares）字段。
DOWNLOADER_MIDDLEWARES = {
'douban.middlewares.RandomUserAgent': 100,
'douban.middlewares.RandomProxy': 200,
}
USER_AGENTS = [
'Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.0)',
'Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.2)',
'Opera/9.27 (Windows NT 5.2; U; zh-cn)',
'Opera/8.0 (Macintosh; PPC Mac OS X; U; en)',
'Mozilla/5.0 (Macintosh; PPC Mac OS X; U; en) Opera 8.0',
'Mozilla/5.0 (Linux; U; Android 4.0.3; zh-cn; M032 Build/IML74K) AppleWebKit/534.30 (KHTML, like Gecko) Version/4.0 Mobile Safari/534.30',
'Mozilla/5.0 (Windows; U; Windows NT 5.2) AppleWebKit/525.13 (KHTML, like Gecko) Chrome/0.2.149.27 Safari/525.13'
]
PROXIES = [
{"ip_port" :"121.42.140.113:16816", "user_passwd" : " xiao@123"},
#{"ip_prot" :"121.42.140.113:16816", "user_passwd" : ""}
#{"ip_prot" :"121.42.140.113:16816", "user_passwd" : ""}
#{"ip_prot" :"121.42.140.113:16816", "user_passwd" : ""}
]
【RandomUserAgent】：表示随机的 Agent 。
【RandomProxy】：表示随机的代理 。
代理能够去找免费的代理。
也能够去购买私密代理。
快代理：https://www.kuaidaili.com
备注：代理分免费代理和私密代理，免费代理的帐户和密码为空，私密代理有帐户和密码，这须要在下载中间键 middlewares.py 程序里增长判断"user_passwd"有没有值，若是没有值就不用。
第十一步: 编写下载中间键 middlewares.py 文件。
import random,os,sys
import base64
path = os.path.dirname(os.path.abspath(__file__))
sys.path.append(path)
from douban2.settings import USER_AGENTS
from douban2.settings import PROXIES
# 随机的User-Agent
class RandomUserAgent(object):
def process_request(self, request, spider):
useragent = random.choice(USER_AGENTS)
#设置请求头的默认值
request.headers.setdefault("User-Agent", useragent)
class RandomProxy(object):
def process_request(self, request, spider):
proxy = random.choice(PROXIES)
# request.meta['proxy']表示当前请求使用的代理
if proxy['user_passwd'] is None:
# 没有代理帐户验证的代理使用方式
request.meta['proxy'] = "http://" + proxy['ip_port']
else:
# 对帐户密码进行base64编码转换
base64_userpasswd = base64.b64encode(proxy['user_passwd'])
# 对应到代理服务器的信令格式里
request.headers['Proxy-Authorization'] = 'Basic ' + base64_userpasswd
request.meta['proxy'] = "http://" + proxy['ip_port']
第十二步: 在 settings.py 文件里设置延迟下载（防止访问过于频繁，设置为 2 秒 或更高）
DOWNLOAD_DELAY = 3
第十三步: 执行run.py文件，运行爬虫。
第十四步: 查看 MongoDB 数据库。
显示的只是一部分数据（Type "it" for more），若是想看完整的数据，能够经过 MongoDB 数据库自带的图形化客户端工具（MongoDB Compass Community）查看。