scrapy经常使用配置

scrapy经常使用配置 一.基本配置 1.项目名称 2.爬虫应用路径 SPIDER_MODULES = ['Amazon.spiders'] NEWSPIDER_MODULE = 'Amazon.spiders'html 3.客户端User-Agent请求头 USER_AGENT = 'Amazon (+http://www.yourdomain.com)'python 4.是否遵循爬虫协议 R
相关文章
相关标签/搜索