Python爬虫IP代理池的建立和使用

正如在上一篇博文中提到的那样，同一个IP针对一个网站短时间内大量的访问通常会导致IP被封，除了在爬取数据时增加延迟(爬取量不大或者对爬取速度没要求)，还有一个好方法就是使用代理IP，这样就可以完美解决IP被封的问题。 那么，问题来了，代理的IP从哪儿来呢，土豪自然随意，直接淘宝买一些代理IP就好，稳定也不是特别贵。但对于技术爱好者，也许并没有那个需求，其实网上还是有很多免费的代理IP的，随意打开百

>>阅读原文<<