一块儿学爬虫——一步一步打造爬虫代理池

最近在使用爬虫爬取数据时，常常会返回403代码，大体意思是该IP访问过于频繁，被限制访问。限制IP访问网站最经常使用的反爬手段了，其实破解也很容易，就是在爬取网站是使用代理便可，这个IP被限制了，就使用其余的IP。对于高大上的公司来讲，他们基本都使用收费的代理，基本不会有什么问题，比较稳定。像我这样的矮矬穷，确定是用不起收费的代理。通常都是使用国内免费的代理，网上也有不少提供免费的代理。css

不少人都是从网上爬取一批免费的代理IP，存放在存储媒介中，例如excel文件或者数据库。定时维护代理，保证代理可用。这个作法有个缺点，有些机器上并无装有excel或者mysql、redis等数据库，这就致使了的代理池没法正常使用。html

我以前是作java开发的，常常会把一些经常使用的数据放在ArrayList中，使用起来很是方便，效率高，所以借鉴以前在java方面的经验，将代理IP爬取下来存放在list列表中中，将list列表当作一个代理池，常常维护这个池里的代理。java

我常常爬取免费代理的网站xicidaili swei360等，这些免费的代理足够我使用了，可以应付大多数的爬虫工做。爬取过程须要用到requests和pyquery库，没有安装的同窗自行安装。python

首先介绍下爬取xicidaili网站的过程，要先定义一个方法用于抓取xicidaili网站的，参数有两个，一个是url，另一个是要爬取代理网页的页数，也就是要爬几页，方法以下：mysql

def get_xicidaili_proxy(url,page):
    for i in range(1,page):
        headers = {
            "User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36 SE 2.X MetaSr 1.0"}
        response = requests.get(url + str(i), headers=headers)

        html = response.text
        doc = pq(html)
        ip_list = doc('#ip_list')('tr:gt(0)').items()
        for item in ip_list:
            ip = item.find('td:nth-child(2)').text()
            port = item.find('td:nth-child(3)').text()
            http_type = item.find('td:nth-child(6)').text()
            proxy_ip = http_type + "://" + ip + ":" + port
            if http_type == 'HTTP':
                http_proxy_pool.append(proxy_ip)
            elif http_type == 'HTTPS':
                https_proxy_pool.append(proxy_ip)
            # print(proxy_ip)

定义了http_proxy_pool和https_proxy_pool两个list变量，用于存储http类型和https类型的代理。使用PyQuery根据css伪选择器提取出ip，端口和http类型信息，并按照http:// + ip+port的方式组合成一个字符串，存储在已经定义好的http_proxy_tool和https_proxy_pool变量中。redis

爬取swei360网站代理的方法就不贴出来了，原理和爬取xicidaili网站是同样的。sql

一个代理在使用以前要判断是否可用，咱们使用request的get请求的返回代码判断代理是否可用，返回200，就说明代理可用，返回其余的代码就表示代理不可用，代码以下：数据库

def detect_proxy(test_url,http_type,proxy):
    headers = {
        "User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36 SE 2.X MetaSr 1.0"}
    proxy={
        http_type : proxy
    }
    try:
        response = requests.get(test_url,proxies=proxy,headers=headers)
        if response.status_code in [200]:
            print('代理可用',proxy)
            return True
        else:
            print('代理不可用', proxy);
            delete_proxy(http_type,proxy)
            return False
    except(requests.exceptions.ProxyError,RequestException):
        print('代理不可用', proxy)
        delete_proxy(http_type, proxy)
        return False

定义了detect_proxy方法用于检测代理是否可用，有三个参数，分别是测试网址，代理类型(http和https)和代理IP。当requests的请求返回200代码时，就表示该代理可用，返回True，不然就是不可用，返回False。当遇到request异常或者其余的错误也认为代理不可用，返回False。对于不可用的代理，要从代理池中删除。网络

从代理池中获取代理时，咱们使用的是从代理池中随机返回一个代理，这样就避免常常使用一个代理，从而遭到拒绝访问。代码以下：app

def get_https_proxy():
    proxy_ip = random.choice(https_proxy_pool)
    return proxy_ip

def get_http_proxy():
    proxy_ip = random.choice(http_proxy_pool)
    return proxy_ip

为了保证代理的可用，当检测到一个代理不可用时，要及时的清理掉。就是从http_proxy_pool和https_proxy_pool列表中删除。

一个简单的爬虫代理池已经搭建好,总结下爬虫代理池搭建的过程：

从免费的代理网站上爬取代理信息，存放在列表中。
提供从代理池中随机获取代理的方法。http类型的网站要使用http类型的代理，https类型的网站要使用https类型的代理，所以分别提供获取http和https类型代理的方法。
提供检测代理是否可用的方法，代理可用返回True，不可用返回False。
提供删除代理的方法。

这个代理池其实至关的简单，有一个弊端就是在检测代理是否可用时，若是返回的不是200代码就认为代理不可用，返回其余代码的状况有不少，例如网络不可用、测试网站不可访问等。比较好的作法是给每一个代理设置一个分值，例如10分，若是检测到不可用就减1，当分数为0时，就肯定该代理不可用，直接从代理池中移除。检测到代理可用，就将分数设为10分。这种作法给每一个检测到不可用代理一个改邪归正的机会，不至于一刀切的抛弃掉。

完整代码请加个人公众号，回复"代理"获取。