Python爬虫Scrapy框架IP代理的配置与调试

在调试爬虫的时候，新手都会遇到关于ip的错误，好好的程序突然报错了，怎么解决，关于ip访问的错误其实很好解决，但是怎么知道解决好了呢？怎么确定是代理ip的问题呢？由于笔者主修语言是Java，所以有些解释可能和Python大佬们的解释不一样，因为我是从Java 的角度看Python。这样也便于Java开发人员阅读理解。 代理ip的逻辑在哪里 一个scrapy 的项目结构是这样的 scrapydown

>>阅读原文<<