爬虫工程师经常使用的 Chrome 插件

作多了爬虫都知道,写一个爬虫大部分时间不是在代码上,而是在分析网页上,全部有一套好用的工具能够极大节省劳动力,这里把平时积累的一些 Chrome 插件分享出来,均来自本人和同事推荐,并不定时更新,欢迎点赞和收藏。 注意下载地址是谷歌应用商店,访问须要特殊方法,你懂的。javascript

XPath Helper

XPath Helper 相比较 Chrome 自身的 html 搜索,这款插件好用之处是能够显示匹配结果,在插件里写出正确的 XPath 语句后再复制到代码里便可。html

<br>java

Toggle JavaScript

Toggle JavaScript 一键拦截网页全部的 JS,能够快速区分出哪些是异步加载的数据,绝对是爬虫必备神器。web

<br>chrome

FeHelper

FeHelper 这款插件的强大之处不想多说,看上面的截图就好了,其中一些数据转换的功能,在分析请求时会常常用到。编程

<br> ### [JSON-Handle](https://chrome.google.com/webstore/detail/json-handle/iahnhfdhidomcpggpaimmmahffihkfnj) ![JSON-Handle](https://img2018.cnblogs.com/blog/1627229/201907/1627229-20190701234543632-297499716.png) 虽然上面推荐的已经带有 JSON 功能,不过这款插件带有局部选取、对象类型、数组长度等小功能,能够做为有额外需求时的后备之选。json

<br>数组

User-Agent Switcher

User-Agent Switcher 快速修改 UserAgent 的插件,当须要请求移动端页面时,或者须要传特殊的 UA 时,不要忘记它。微信

<br>dom

X-Forwarded-For Header

X-Forwarded-For Header 有时候网站过滤 IP 是经过请求 Headers 中的 X-Forwarded-For 字段,经过这个插件就能够修改此字段,用来快速进行判断。

<br>

SwitchyOmega

SwitchyOmega 快速切换 HTTP / Socks 代理的插件,还能根据匹配地址自动切换。另外一个技巧是配合 Charles、Burp Suite 这类抓包工具,这些工具使用时须要设置本地代理,能够提早设置好用时就切换。

持续更新中,点赞是动力,有其余好用的插件也欢迎分享给我。

<br> ---- ### 打包下载 若是没法进入谷歌商店,能够关注微信公众号:面向人生编程

回复【插件】获取打包下载

回复【资料】获取本人精选的学习视频及代码

微信公众号:面向人生编程

原文出处:https://www.cnblogs.com/zkqiang/p/10963515.html

相关文章
相关标签/搜索