爬虫和反爬的对抗一直在进行着…为了帮助更好的进行爬虫行为以及反爬，今天就来介绍一下网页开发者经常使用的反爬手段。
1. BAN IP：网页的运维人员经过分析日志发现最近某一个IP访问量特别特别大，某一段时间内访问了无数次的网页，则运维人员判断此种访问行为并不是正常人的行为，因而直接在服务器上封杀了此人IP。
解决方法：此种方法极其容易误伤其余正经常使用户，由于某一片区域的其余用户可能有着相同的IP，致使服务器少了许多正经常使用户的访问，因此通常运维人员不会经过此种方法来限制爬虫。不过面对许多大量的访问，服务器仍是会偶尔把该IP放入黑名单，过一段时间再将其放出来，但咱们能够经过分布式爬虫以及购买代理IP也能很好的解决，只不过爬虫的成本提升了。
2. BAN USERAGENT：不少的爬虫请求头就是默认的一些很明显的爬虫头python-requests/2.18.4，诸如此类，当运维人员发现携带有这类headers的数据包，直接拒绝访问，返回403错误
解决方法：直接r=requests.get(url,headers={'User-Agent':'Baiduspider'})把爬虫请求headers假装成百度爬虫或者其余浏览器头就好了。
案例：雪球网
返回的就是403403 Forbidden.
Your IP Address:xxx.xxx.xxx.xxx.可是当咱们这样写：
返回的就是200< !DOCTYPE html><html …
3. BAN COOKIES:服务器对每个访问网页的人都set-cookie，给其一个cookies，当该cookies访问超过某一个阀值时就BAN掉该COOKIE，过一段时间再放出来，固然通常爬虫都是不带COOKIE进行访问的，但是网页上有一部份内容如新浪微博是须要用户登陆才能查看更多内容。
解决办法：控制访问速度，或者某些须要登陆的如新浪微博，在某宝上买多个帐号，生成多个cookies，在每一次访问时带上cookies
案例：蚂蜂窝
之前由于旅游的需求，因此想到了去抓一点游记来找找哪些地方好玩，因而去了蚂蜂窝网站找游记，一篇一篇的看真的很慢，想到不如把全部文章抓过来而后统计每一个词出现的频率最高，统计出最热的一些旅游景点，就写了一个scrapy爬虫抓游记，当修改了headers后开始爬取，发现访问过快服务器就会断开掉个人链接，而后过一段时间（几个小时）才能继续爬。因而放慢速度抓就发现不会再被BAN了。
4. 验证码验证：当某一用户访问次数过多后，就自动让请求跳转到一个验证码页面，只有在输入正确的验证码以后才能继续访问网站
解决办法：python能够经过一些第三方库如(pytesser,PIL)来对验证码进行处理，识别出正确的验证码，复杂的验证码能够经过机器学习让爬虫自动识别复杂验证码，让程序自动识别验证码并自动输入验证码继续抓取
案例：安全客当访问者对安全客访问过快他就会自动蹦出一个验证码界面。以下：
5. javascript渲染：网页开发者将重要信息放在网页中但不写入html标签中，而浏览器会自动渲染<script>标签中的js代码将信息展示在浏览器当中，而爬虫是不具有执行js代码的能力，因此没法将js事件产生的信息读取出来
解决办法：经过分析提取script中的js代码来经过正则匹配提取信息内容或经过webdriver+phantomjs直接进行无头浏览器渲染网页。
案例：前程无忧网随便打开一个前程无忧工做界面，直接用requests.get对其进行访问，能够获得一页的20个左右数据，显然获得的不全，而用webdriver访问一样的页面能够获得50个完整的工做信息。
6. ajax异步传输：访问网页的时候服务器将网页框架返回给客户端，在与客户端交互的过程当中经过异步ajax技术传输数据包到客户端，呈如今网页上，爬虫直接抓取的话信息为空
解决办法：经过fiddler或是wireshark抓包分析ajax请求的界面，而后本身经过规律仿造服务器构造一个请求访问服务器获得返回的真实数据包。
案例：拉勾网打开拉勾网的某一个工做招聘页，能够看到许许多多的招聘信息数据，点击下一页后发现页面框架不变化，url地址不变，而其中的每一个招聘数据发生了变化，经过chrome开发者工具抓包找到了一个叫请求了一个叫作https://www.lagou.com/zhaopin/Java/2/?filterOption=3的网页，
打开改网页发现为第二页真正的数据源，经过仿造请求能够抓取每一页的数据。
不少网页的运维者经过组合以上几种手段，而后造成一套反爬策略，就像以前碰到过一个复杂网络传输+加速乐+cookies时效的反爬手段。
7.加速乐：有些网站使用了加速乐的服务，在访问以前先判断客户端的cookie正不正确。若是不正确，返回521状态码，set-cookie而且返回一段js代码经过浏览器执行后又能够生成一个cookie，只有这两个cookie一块儿发送给服务器，才会返回正确的网页内容。
解决办法：将浏览器返回的js代码放在一个字符串中，而后利用nodejs对这段代码进行反压缩，而后对局部的信息进行解密，获得关键信息放入下一次访问请求的头部中。
案例：加速乐
这样的一个交互过程仅仅用python的requests库是解决不了的，通过查阅资料，有两种解决办法：
第一种将返回的set-cookie获取到以后再经过脚本执行返回的eval加密的js代码，将代码中生成的cookie与以前set-cookie联合发送给服务器就能够返回正确的内容，即状态码从521变成了200。
直接经过这一段就能够获取返回的一段通过压缩和加密处理的js代码相似于这种：
因此咱们须要对代码进行处理,让其格式化输出，操做以后以下：
这里咱们就须要对这段JS作下修改，假设咱们先把这段JS代码存在了string sHtmlJs这个字符串变量里，咱们须要把eval这里执行的结果提取出来，把eval替换成 return，而后把整个代码放到一个JS函数里，方式以下：
解密后的代码以下：
经过观察代码发现了一段：
显而易见，这个dc就是咱们想要的cookie，执行JS，让函数返回DC就OK了。我还发现了其中有一段
当服务器发现浏览器的头部是_phantom或者__phantommas就让浏览器进行死循环，即阻止用selenium操控phantomjs来访问网页。
至此两端加速乐cookie以下：
这个破解方法很麻烦不建议用，因此我想出了第二种方法
第二种办法就是经过selenium的webdriver模块控制浏览器自动访问网页而后输出浏览器头部信息中的cookie，封装在一个字典中，将其经过requests中的jar模块转换成cookiejar放入下一次访问的request中就能够持续访问，由于cookie的时效大约一个小时左右。如下是处理自动生成一个新的有效cookie的代码:
切记，放在requests中访问的headers信息必定要和你操控的浏览器headers信息一致，由于服务器端也会检查cookies与headers信息是否一致
最厉害的武功是融会贯通，那么最厉害的反爬策略也就是组合目前有的各类反爬手段，固然也不是没法破解，这就须要咱们对各个反爬技术及原理都很清楚，梳理清楚服务器的反爬逻辑，而后再见招拆招，就可让咱们的爬虫无孔不入。