5一、scrapyd部署scrapy项目

【百度云搜索，搜各类资料:http://www.lqkweb.com】

【搜网盘，搜各类资料:http://www.swpan.cn】

scrapyd模块是专门用于部署scrapy项目的，能够部署和管理scrapy项目**

下载地址：https://github.com/scrapy/scr...

建议安装

pip3 install scrapyd

首先安装scrapyd模块，安装后在Python的安装目录下的Scripts文件夹里会生成scrapyd.exe启动文件，若是这个文件存在说明安装成功，咱们就能够执行命令了**

启动scrapyd服务

在命令输入：scrapyd

如图说明启动成功，关闭或者退出命令窗口，由于咱们正真的使用是在指定的启动目录下启动服务的

指定启动*服务目录后启动服务*

从新打开命令，cd进入要指定服务的目录后，执行命令scrapyd启动服务

此时能够看到启动目录里生成了dbs目录

dbs目录里是空的什么都没有

此时咱们须要安装scrapyd-client模块

scrapyd-client模块是专门打包scrapy爬虫项目到scrapyd服务中的

下载目录：https://github.com/scrapy/scr...

建议安装

pip3 install scrapyd-client

安装后在Python的安装目录下的Scripts文件夹里会生成scrapyd-deploy无后缀文件，若是有此文件说明安装成功

重点说明：这个scrapyd-deploy无后缀文件是启动文件，在Linux系统下能够远行，在windows下是不能运行的，因此咱们须要编辑一下使其在windows能够运行**

 

在此目录里新建一个scrapyd-deploy.bat文件，注意名称必定要和scrapyd-deploy相同，咱们编辑这个bat文件使其在windows能够运行

scrapyd-deploy.bat文件编辑

设置python执行文件路径和scrapyd-deploy无后缀文件路径

@echo off
"C:\Users\admin\AppData\Local\Programs\Python\Python35\python.exe" "C:\Users\admin\AppData\Local\Programs\Python\Python35\Scripts\scrapyd-deploy" %1 %2 %3 %4 %5 %6 %7 %8 %9

scrapyd-deploy.bat文件编辑好后，打开命令窗口cd 到scrapy项目中有scrapy.cfg文件的目录，而后执行scrapyd-deploy命令，看看咱们编辑的scrapyd-deploy.bat文件是否能够执行

若是下图表示能够执行

 

设置scrapy项目中的scrapy.cfg文件，这个文件就是给scrapyd-deploy使用的

 scrapy.cfg文件

注意：下面的中文备注不能写在里面，否则会报错，这写的备注只是方便知道怎么设置

# Automatically created by: scrapy startproject
#
# For more information about the [deploy] section see:
# https://scrapyd.readthedocs.org/en/latest/deploy.html

[settings]
default = adc.settings

[deploy:bobby]                      #设置部署名称bobby
url = http://localhost:6800/        #开启url
project = adc                       #项目名称

命令窗口输入：scrapyd-deploy -l     启动服务，能够看到咱们设置的部署名称

开始打包前，执行一个命令：scrapy list   ，这个命令执行成功说明能够打包了，若是没执行成功说明还有工做没完成

注意执行 scrapy list  命令的时候颇有可能出现错误，若是是python没法找到scrapy项目，须要在scrapy项目里的settings.py配置文件里设置成python可识别路径*

# 将当前项目的一级目录adc目录添加到python能够识别目录中
BASE_DIR = os.path.dirname(os.path.abspath(os.path.dirname(__file__)))
sys.path.insert(0, os.path.join(BASE_DIR, 'adc'))

若是错误提示，什么远程计算机拒绝，说明你的scrapy项目有连接远程计算机，如连接数据库或者elasticsearch(搜索引擎)之类的，须要先将连接服务器启动**

 执行 scrapy list  命令返回了爬虫名称说明一切ok了，以下图**

到此咱们就能够开始打包scrapy项目到scrapyd了，用命令结合scrapy项目中的scrapy.cfg文件设置来打包**

scrapy.cfg文件

# Automatically created by: scrapy startproject
#
# For more information about the [deploy] section see:
# https://scrapyd.readthedocs.org/en/latest/deploy.html

[settings]
default = adc.settings

[deploy:bobby]                      #设置部署名称bobby
url = http://localhost:6800/        #开启url
project = adc                       #项目名称

执行打包命令： scrapyd-deploy 部署名称 -p 项目名称

如：scrapyd-deploy bobby -p adc

以下显示表示scrapy项目打包成功**

scrapy项目打包成功后说明

scrapy项目打包成功后会在scrapyd启动服务的目录生成相应的文件，以下：*

一、会在scrapyd启动服务的目录下的dbs文件夹生成scrapy项目名称.db*

二、会在scrapyd启动服务的目录下的eggs文件夹生成scrapy项目名称的文件夹，里面是一个scrapyd-deploy打包生成的名称.egg*

三、会将scrapy爬虫项目打包，在scrapy项目里会生成两个文件夹，build文件夹和project.egg-info文件夹

build文件夹里是打包后的爬虫项目，scrapyd之后远行的就是这个打包后的项目*

project.egg-info文件夹里是打包时的一些配置

说明：scrapyd-deploy只负责将scrapy爬虫项目打包给scrapyd部署，只须要打包一次，打包后，之后的启动爬虫，中止爬虫等scrapy项目管理由scrapyd来完成**

scrapyd管理scrapy项目

注意：scrapyd管理用的 curl 命令，curl命令不支持windows系统，只支持Linux系统，因此在windows系统下咱们用cmder来执行命令一、远行爬虫，远行指定scrapy下面的指定爬虫

curl http://localhost:6800/schedule.json -d project=scrapy项目名称 -d spider=爬虫名称
如：
curl http://localhost:6800/schedule.json -d project=adc -d spider=lagou

二、中止爬虫

curl http://localhost:6800/cancel.json -d project=scrapy项目名称 -d job=远行ID
如：
curl http://localhost:6800/cancel.json -d project=adc -d job=5454948c93bf11e7af0040167eb10a7b

三、删除scrapy项目

注意：通常删除scrapy项目，须要先执行命令中止项目下在远行的爬虫**

删除项目后会删除scrapyd启动服务的目录下的eggs文件夹生成egg文件，须要从新用scrapyd-deploy打包后才能再次运行

curl http://localhost:6800/delproject.json -d project=scrapy项目名称
若是：
curl http://localhost:6800/delproject.json -d project=adc

四、查看有多少个scrapy项目在api中

五、查看指定的scrapy项目中有多少个爬虫

curl http://localhost:6800/listspiders.json?project=scrapy项目名称
如：
curl http://localhost:6800/listspiders.json?project=adc

scrapyd支持的API 介绍

 scrapyd支持一系列api，下面用一个py文件来介绍

# -*- coding: utf-8 -*-

import requests
import json 

baseUrl ='http://127.0.0.1:6800/'
daemUrl ='http://127.0.0.1:6800/daemonstatus.json'
listproUrl ='http://127.0.0.1:6800/listprojects.json'
listspdUrl ='http://127.0.0.1:6800/listspiders.json?project=%s'
listspdvUrl= 'http://127.0.0.1:6800/listversions.json?project=%s'
listjobUrl ='http://127.0.0.1:6800/listjobs.json?project=%s'
delspdvUrl= 'http://127.0.0.1:6800/delversion.json'

#http://127.0.0.1:6800/daemonstatus.json
#查看scrapyd服务器运行状态
r= requests.get(daemUrl)
print '1.stats :\n %s \n\n'  %r.text  

#http://127.0.0.1:6800/listprojects.json
#获取scrapyd服务器上已经发布的工程列表
r= requests.get(listproUrl)
print '1.1.listprojects : [%s]\n\n'  %r.text
if len(json.loads(r.text)["projects"])>0 :
    project = json.loads(r.text)["projects"][0]

#http://127.0.0.1:6800/listspiders.json?project=myproject
#获取scrapyd服务器上名为myproject的工程下的爬虫清单
listspd=listspd % project
r= requests.get(listspdUrl)
print '2.listspiders : [%s]\n\n'  %r.text 
if json.loads(r.text).has_key("spiders")>0 :
    spider =json.loads(r.text)["spiders"][0]

#http://127.0.0.1:6800/listversions.json?project=myproject
##获取scrapyd服务器上名为myproject的工程下的各爬虫的版本
listspdvUrl=listspdvUrl % project
r = requests.get(listspdvUrl)
print '3.listversions : [%s]\n\n'  %rtext 
if len(json.loads(r.text)["versions"])>0 :
    version = json.loads(r.text)["versions"][0]

#http://127.0.0.1:6800/listjobs.json?project=myproject
#获取scrapyd服务器上的全部任务清单，包括已结束，正在运行的，准备启动的。
listjobUrl=listjobUrl % proName
r=requests.get(listjobUrl)
print '4.listjobs : [%s]\n\n'  %r.text 

#schedule.json
#http://127.0.0.1:6800/schedule.json -d project=myproject -d spider=myspider
#启动scrapyd服务器上myproject工程下的myspider爬虫，使myspider马上开始运行，注意必须以post方式
schUrl = baseurl + 'schedule.json'
dictdata ={ "project":project,"spider":spider}
r= reqeusts.post(schUrl, json= dictdata)
print '5.1.delversion : [%s]\n\n'  %r.text 

#http://127.0.0.1:6800/delversion.json -d project=myproject -d version=r99'
#删除scrapyd服务器上myproject的工程下的版本名为version的爬虫，注意必须以post方式
delverUrl = baseurl + 'delversion.json'
dictdata={"project":project ,"version": version }
r= reqeusts.post(delverUrl, json= dictdata)
print '6.1.delversion : [%s]\n\n'  %r.text 

#http://127.0.0.1:6800/delproject.json -d project=myproject
#删除scrapyd服务器上myproject工程，注意该命令会自动删除该工程下全部的spider，注意必须以post方式
delProUrl = baseurl + 'delproject.json'
dictdata={"project":project  }
r= reqeusts.post(delverUrl, json= dictdata)
print '6.2.delproject : [%s]\n\n'  %r.text

总结一下：

一、获取状态

http://127.0.0.1:6800/daemonstatus.json

二、获取项目列表
http://127.0.0.1:6800/listprojects.json

三、获取项目下已发布的爬虫列表

http://127.0.0.1:6800/listspiders.json?project=myproject

四、获取项目下已发布的爬虫版本列表

http://127.0.0.1:6800/listversions.json?project=myproject

五、获取爬虫运行状态

http://127.0.0.1:6800/listjobs.json?project=myproject
 六、启动服务器上某一爬虫（必须是已发布到服务器的爬虫）
http://localhost:6800/schedule.json （post方式，data={"project":myproject,"spider":myspider}）

七、删除某一版本爬虫

http://127.0.0.1:6800/delversion.json （post方式，data={"project":myproject,"version":myversion}）

八、删除某一工程，包括该工程下的各版本爬虫

http://127.0.0.1:6800/delproject.json（post方式，data={"project":myproject}）

 到此，基于scrapyd的爬虫发布教程就写完了。

可能有人会说，我直接用scrapy cwal 命令也能够执行爬虫，我的理解用scrapyd服务器管理爬虫，至少有如下几个优点：

一、能够避免爬虫源码被看到。

二、有版本控制。

三、能够远程启动、中止、删除，正是由于这一点，因此scrapyd也是分布式爬虫的解决方案之一。