从零开始的 Python 爬虫速成指南

序

本文主要内容：以最短的时间写一个最简单的爬虫，能够抓取论坛的帖子标题和帖子内容。

本文受众：没写过爬虫的萌新。

入门

0.准备工做

须要准备的东西： Python、scrapy、一个IDE或者随便什么文本编辑工具。

1.技术部已经研究决定了，你来写爬虫。

随便建一个工做目录，而后用命令行创建一个工程，工程名为miao，能够替换为你喜欢的名字。

scrapy startproject miao

随后你会获得以下的一个由scrapy建立的目录结构

在spiders文件夹中建立一个python文件，好比miao.py，来做为爬虫的脚本。

内容以下：

import scrapy


class NgaSpider(scrapy.Spider):
    name = "NgaSpider"
    host = "http://bbs.ngacn.cc/"
    # start_urls是咱们准备爬的初始页
    start_urls = [
        "http://bbs.ngacn.cc/thread.php?fid=406",
    ]

    # 这个是解析函数，若是不特别指明的话，scrapy抓回来的页面会由这个函数进行解析。
    # 对页面的处理和分析工做都在此进行，这个示例里咱们只是简单地把页面内容打印出来。
    def parse(self, response):
        print response.body

2.跑一个试试？

若是用命令行的话就这样：

cd miao
scrapy crawl NgaSpider

你能够看到爬虫君已经把你坛星际区第一页打印出来了，固然因为没有任何处理，因此混杂着html标签和js脚本都一并打印出来了。

解析

接下来咱们要把刚刚抓下来的页面进行分析，从这坨html和js堆里把这一页的帖子标题提炼出来。

其实解析页面是个体力活，方法多的是，这里只介绍xpath。

0.为何不试试神奇的xpath呢

看一下刚才抓下来的那坨东西，或者用chrome浏览器手动打开那个页面而后按F12能够看到页面结构。

每一个标题其实都是由这么一个html标签包裹着的。举个例子：

<a id="t_tt1_33" class="topic" href="/read.php?tid=10803874">[合做模式] 合做模式修改设想</a>

能够看到href就是这个帖子的地址（固然前面要拼上论坛地址），而这个标签包裹的内容就是帖子的标题了。

因而咱们用xpath的绝对定位方法，把class='topic'的部分摘出来。

1.看看xpath的效果

在最上面加上引用：

from scrapy import Selector

把parse函数改为：

   def parse(self, response):
        selector = Selector(response)
        # 在此，xpath会将全部class=topic的标签提取出来，固然这是个list
        # 这个list里的每个元素都是咱们要找的html标签
        content_list = selector.xpath("//*[@class='topic']")
        # 遍历这个list，处理每个标签
        for content in content_list:
            # 此处解析标签，提取出咱们须要的帖子标题。
            topic = content.xpath('string(.)').extract_first()
            print topic
            # 此处提取出帖子的url地址。
            url = self.host + content.xpath('@href').extract_first()
            print url

再次运行就能够看到输出你坛星际区第一页全部帖子的标题和url了。

递归

接下来咱们要抓取每个帖子的内容。

这里须要用到python的yield。

yield Request(url=url, callback=self.parse_topic)

此处会告诉scrapy去抓取这个url，而后把抓回来的页面用指定的parse_topic函数进行解析。

至此咱们须要定义一个新的函数来分析一个帖子里的内容。

完整的代码以下：

import scrapy
from scrapy import Selector
from scrapy import Request


class NgaSpider(scrapy.Spider):
    name = "NgaSpider"
    host = "http://bbs.ngacn.cc/"
    # 这个例子中只指定了一个页面做为爬取的起始url
    # 固然从数据库或者文件或者什么其余地方读取起始url也是能够的
    start_urls = [
        "http://bbs.ngacn.cc/thread.php?fid=406",
    ]

    # 爬虫的入口，能够在此进行一些初始化工做，好比从某个文件或者数据库读入起始url
    def start_requests(self):
        for url in self.start_urls:
            # 此处将起始url加入scrapy的待爬取队列，并指定解析函数
            # scrapy会自行调度，并访问该url而后把内容拿回来
            yield Request(url=url, callback=self.parse_page)

    # 版面解析函数，解析一个版面上的帖子的标题和地址
    def parse_page(self, response):
        selector = Selector(response)
        content_list = selector.xpath("//*[@class='topic']")
        for content in content_list:
            topic = content.xpath('string(.)').extract_first()
            print topic
            url = self.host + content.xpath('@href').extract_first()
            print url
            # 此处，将解析出的帖子地址加入待爬取队列，并指定解析函数
            yield Request(url=url, callback=self.parse_topic)
         # 能够在此处解析翻页信息，从而实现爬取版区的多个页面

    # 帖子的解析函数，解析一个帖子的每一楼的内容
    def parse_topic(self, response):
        selector = Selector(response)
        content_list = selector.xpath("//*[@class='postcontent ubbcode']")
        for content in content_list:
            content = content.xpath('string(.)').extract_first()
            print content
        # 能够在此处解析翻页信息，从而实现爬取帖子的多个页面

到此为止，这个爬虫能够爬取你坛第一页全部的帖子的标题，并爬取每一个帖子里第一页的每一层楼的内容。

爬取多个页面的原理相同，注意解析翻页的url地址、设定终止条件、指定好对应的页面解析函数便可。

Pipelines——管道

此处是对已抓取、解析后的内容的处理，能够经过管道写入本地文件、数据库。

0.定义一个Item

在miao文件夹中建立一个items.py文件。

from scrapy import Item, Field


class TopicItem(Item):
    url = Field()
    title = Field()
    author = Field()  

class ContentItem(Item):
    url = Field()
    content = Field()
    author = Field()

此处咱们定义了两个简单的class来描述咱们爬取的结果。

1. 写一个处理方法

在miao文件夹下面找到那个pipelines.py文件，scrapy以前应该已经自动生成好了。

咱们能够在此建一个处理方法。

from scrapy import Item, Field


class TopicItem(Item):
    url = Field()
    title = Field()
    author = Field()  

class ContentItem(Item):
    url = Field()
    content = Field()
    author = Field()

2.在爬虫中调用这个处理方法。

要调用这个方法咱们只需在爬虫中调用便可，例如原先的内容处理函数可改成：

   def parse_topic(self, response):
        selector = Selector(response)
        content_list = selector.xpath("//*[@class='postcontent ubbcode']")
        for content in content_list:
            content = content.xpath('string(.)').extract_first()
            ## 以上是原内容
            ## 建立个ContentItem对象把咱们爬取的东西放进去
            item = ContentItem()
            item["url"] = response.url
            item["content"] = content
            item["author"] = "" ## 略
            ## 这样调用就能够了
            ## scrapy会把这个item交给咱们刚刚写的FilePipeline来处理
            yield item

3.在配置文件里指定这个pipeline

找到settings.py文件，在里面加入

ITEM_PIPELINES = {
            'miao.pipelines.FilePipeline': 400,
        }

这样在爬虫里调用

yield item

的时候都会由经这个FilePipeline来处理。后面的数字400表示的是优先级。

能够在此配置多个Pipeline，scrapy会根据优先级，把item依次交给各个item来处理，每一个处理完的结果会传递给下一个pipeline来处理。

能够这样配置多个pipeline:

ITEM_PIPELINES = {
            'miao.pipelines.Pipeline00': 400,
            'miao.pipelines.Pipeline01': 401,
            'miao.pipelines.Pipeline02': 402,
            'miao.pipelines.Pipeline03': 403,
            ## ...
        }

Middleware——中间件

经过Middleware咱们能够对请求信息做出一些修改，好比经常使用的设置UA、代理、登陆信息等等均可以经过Middleware来配置。

0.Middleware的配置

与pipeline的配置相似，在setting.py中加入Middleware的名字，例如

DOWNLOADER_MIDDLEWARES = {
            "miao.middleware.UserAgentMiddleware": 401,
            "miao.middleware.ProxyMiddleware": 402,
        }

1.破网站查UA, 我要换UA

某些网站不带UA是不让访问的。

在miao文件夹下面创建一个middleware.py

import random


agents = [
    "Mozilla/5.0 (Windows; U; Windows NT 6.1; en-US) AppleWebKit/532.5 (KHTML, like Gecko) Chrome/4.0.249.0 Safari/532.5",
    "Mozilla/5.0 (Windows; U; Windows NT 5.2; en-US) AppleWebKit/532.9 (KHTML, like Gecko) Chrome/5.0.310.0 Safari/532.9",
    "Mozilla/5.0 (Windows; U; Windows NT 5.1; en-US) AppleWebKit/534.7 (KHTML, like Gecko) Chrome/7.0.514.0 Safari/534.7",
    "Mozilla/5.0 (Windows; U; Windows NT 6.0; en-US) AppleWebKit/534.14 (KHTML, like Gecko) Chrome/9.0.601.0 Safari/534.14",
    "Mozilla/5.0 (Windows; U; Windows NT 6.1; en-US) AppleWebKit/534.14 (KHTML, like Gecko) Chrome/10.0.601.0 Safari/534.14",
    "Mozilla/5.0 (Windows; U; Windows NT 6.1; en-US) AppleWebKit/534.20 (KHTML, like Gecko) Chrome/11.0.672.2 Safari/534.20",
    "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/534.27 (KHTML, like Gecko) Chrome/12.0.712.0 Safari/534.27",
    "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/535.1 (KHTML, like Gecko) Chrome/13.0.782.24 Safari/535.1",
]


class UserAgentMiddleware(object):

    def process_request(self, request, spider):
        agent = random.choice(agents)
        request.headers["User-Agent"] = agent

这里就是一个简单的随机更换UA的中间件，agents的内容能够自行扩充。

2.破网站封IP，我要用代理

好比本地127.0.0.1开启了一个8123端口的代理，一样能够经过中间件配置让爬虫经过这个代理来对目标网站进行爬取。

一样在middleware.py中加入：

class ProxyMiddleware(object):

    def process_request(self, request, spider):
        # 此处填写你本身的代理
        # 若是是买的代理的话能够去用API获取代理列表而后随机选择一个
        proxy = "http://127.0.0.1:8123"
        request.meta["proxy"] = proxy

不少网站会对访问次数进行限制，若是访问频率太高的话会临时禁封IP。

若是须要的话能够从网上购买IP，通常服务商会提供一个API来获取当前可用的IP池，选一个填到这里就好。

一些经常使用配置

在settings.py中的一些经常使用配置

# 间隔时间，单位秒。指明scrapy每两个请求之间的间隔。
DOWNLOAD_DELAY = 5

# 当访问异常时是否进行重试
RETRY_ENABLED = True
# 当遇到如下http状态码时进行重试
RETRY_HTTP_CODES = [500, 502, 503, 504, 400, 403, 404, 408]
# 重试次数
RETRY_TIMES = 5

# Pipeline的并发数。同时最多能够有多少个Pipeline来处理item
CONCURRENT_ITEMS = 200
# 并发请求的最大数
CONCURRENT_REQUESTS = 100
# 对一个网站的最大并发数
CONCURRENT_REQUESTS_PER_DOMAIN = 50
# 对一个IP的最大并发数
CONCURRENT_REQUESTS_PER_IP = 50

我就是要用Pycharm

若是非要用Pycharm做为开发调试工具的话能够在运行配置里进行以下配置：

Configuration页面：

Script填你的scrapy的cmdline.py路径，好比个人是

/usr/local/lib/python2.7/dist-packages/scrapy/cmdline.py

而后在Scrpit parameters中填爬虫的名字，本例中即为：

crawl NgaSpider

最后是Working diretory，找到你的settings.py文件，填这个文件所在的目录。

示例：

按小绿箭头就能够愉快地调试了。

本文由马哥教育Python学员提供支持，若是你在学习Python的过程当中遇到了问题，欢迎经过QQ：2282011279 或电话：15652199186 和我联系。