Scrapy 1.5.0之Spider

爬虫原理

建立一个以百度为名的爬虫，其中spiders/baidu.py内容以下：

# -*- coding: utf-8 -*-
import scrapy


class BaiduSpider(scrapy.Spider):
    name = 'baidu'
    allowed_domains = ['www.baidu.com']
    start_urls = ['http://www.baidu.com/']

    def parse(self, response):
        pass

对spider来讲，爬取的过程以下:

1. 以初始的URL初始化Request，并设置回调函数。 当该request下载完毕并返回时，将生成response，并做为参数传给该回调函数。

   如代码所示，spider中初始的request是经过调用 start_requests() 来获取的。 start_requests() 读取 start_urls 中的URL， 并以 parse 为回调函数生成 Request 。

2. 在回调函数内分析返回的(网页)内容，返回 Item 对象、dict、 Request 或者一个包括三者的可迭代容器。 返回的Request对象以后会通过Scrapy处理，下载相应的内容，并调用设置的callback函数(函数可相同)。

3. 在回调函数内，您可使用 选择器(Selectors) (您也可使用BeautifulSoup, lxml 或者您想用的任何解析器) 来分析网页内容，并根据分析的数据生成item。

4. 最后，由spider返回的item将被存到数据库(由某些 Item Pipeline 处理)或使用 Feed exports 存入到文件中。

scrapy.Spider

class scrapy.spiders.Spider

Spider类是最简单的spider。每一个其余的spider必须继承自该类(包括Scrapy自带的其余spider以及您本身编写的spider)。 其仅仅提供了 start_requests() 的默认实现，读取并请求spider属性中的 start_urls, 并根据返回的结果(resulting responses)调用spider的 parse 方法。

name

定义spider名字的字符串。其必须是惟一的，但能够生成多个相同的spider实例。name是spider最重要的属性，并且是必须的。

例如，若是spider爬取 mywebsite.com ，该spider一般会被命名为 mywebsite 。

allowed_domains

可选。

包含了spider容许爬取的域名列表。 当 OffsiteMiddleware 启用时， 域名不在列表中的URL不会被跟进。

start_urls

URL列表。当没有制定特定的URL时，spider将从该列表中开始进行爬取。

custom_settings

该设置是一个dict。当启动spider时，该设置将会覆盖项目级的设置，因为设置必须在初始化前被更新，因此该属性必须定义为类的属性。

class MySpider(scrapy.Spider):
    name = 'myspider'

    custom_settings = {
        'SOME_SETTING': 'some value',
    }

crawler

该属性在初始化类后，由类方法 from_crawler() 设置，而且连接了本spider实例对应的 Crawler 对象。

Crawler包含了不少项目中的组件，做为单一的入口点 (例如插件，中间件，信号管理器等)。

@classmethod
def from_crawler(cls, crawler, *args, **kwargs):
    spider = super(CrawlSpider, cls).from_crawler(crawler, *args, **kwargs)
    spider._follow_links = crawler.settings.getbool(
        'CRAWLSPIDER_FOLLOW_LINKS', True)
    return spider

settings

这个值也是来自于方法from_crawler()。是一个Settings 实例，

logger

配置日志。

from_crawler(crawler, *args, **kwargs)

这是一个类方法，scrapy建立spider的时候会调用。调用位置在crawler.py 的类Crawler中。这个方法在实例化这个spider之后，这个实例才有的settings和crawler属性，因此在__init__方法中是无法访问这俩属性的。若是非要在__init__方法中使用相关属性，那么只能重写该方法，你们能够尝试写写。

参数:

• crawler (Crawler 实例) – 绑定爬虫
• args (列表) – 参数传递到__init__()方法
• kwargs (字典) –关键字参数传递到__init__()方法

start_requests()

该方法必须返回一个可迭代对象(iterable)。该对象包含了spider用于爬取的第一个Request。

当spider启动爬取而且未制定URL时，该方法被调用。 当指定了URL时，make_requests_from_url() 将被调用来建立Request对象。 该方法仅仅会被Scrapy调用一次，所以您能够将其实现为生成器。

该方法的默认实现是使用 start_urls 的url生成Request。

若是您想要修改最初爬取某个网站的Request对象，您能够重写(override)该方法。 例如，若是您须要在启动时以POST登陆某个网站，你能够这么写:

class MySpider(scrapy.Spider):
    name = 'myspider'

    def start_requests(self):
        return [scrapy.FormRequest("http://www.example.com/login",
                                   formdata={'user': 'john', 'pass': 'secret'},
                                   callback=self.logged_in)]

    def logged_in(self, response):
        # here you would extract links to follow and return Requests for
        # each of them, with another callback
        pass

make_requests_from_url(url)

该方法接受一个URL并返回用于爬取的 Request 对象。 该方法在初始化Request时被 start_requests() 调用，也被用于转化url为request。

由于这里的Request初始化没有回调方法，就是默认采用parse方法做为回调。另外这里的dont_filter值为True，这个值的做用是该url不会被过滤。

parse(response)

当response没有指定回调函数时，该方法是Scrapy处理下载的response的默认方法。

parse 负责处理response并返回处理的数据以及跟进的URL。 Spider 对其余的Request的回调函数也有相同的要求。

该方法及其余的Request回调函数必须返回一个包含 Request、dict 或 Item 的可迭代的对象。

log(message[, level, component])

使用 scrapy.log.msg() 方法记录(log)message。 log中自动带上该spider的 name属性。 封装了经过Spiders的 logger 来发送log消息的方法，而且保持了向后兼容性。

closed(reason)

当spider关闭时，该函数被调用。 该方法提供了一个替代调用signals.connect()来监听 spider_closed 信号的快捷方式。

import scrapy

class MySpider(scrapy.Spider):
    name = 'example.com'
    allowed_domains = ['example.com']
    start_urls = [
        'http://www.example.com/1.html',
        'http://www.example.com/2.html',
        'http://www.example.com/3.html',
    ]

    def parse(self, response):
        self.logger.info('A response from %s just arrived!', response.url)

在单个回调函数中返回多个Request以及Item的例子:

import scrapy

class MySpider(scrapy.Spider):
    name = 'example.com'
    allowed_domains = ['example.com']
    start_urls = [
        'http://www.example.com/1.html',
        'http://www.example.com/2.html',
        'http://www.example.com/3.html',
    ]

    def parse(self, response):
        sel = scrapy.Selector(response)
        for h3 in response.xpath('//h3').extract():
            yield {"title": h3}

        for url in response.xpath('//a/@href').extract():
            yield scrapy.Request(url, callback=self.parse)

除了 start_urls ，你也能够直接使用 start_requests() ; 您也可使用 Items 来给予数据更多的结构性(give data more structure):

import scrapy
from myproject.items import MyItem

class MySpider(scrapy.Spider):
    name = 'example.com'
    allowed_domains = ['example.com']

    def start_requests(self):
        yield scrapy.Request('http://www.example.com/1.html', self.parse)
        yield scrapy.Request('http://www.example.com/2.html', self.parse)
        yield scrapy.Request('http://www.example.com/3.html', self.parse)

    def parse(self, response):
        for h3 in response.xpath('//h3').extract():
            yield MyItem(title=h3)

        for url in response.xpath('//a/@href').extract():
            yield scrapy.Request(url, callback=self.parse)