whistle--跨平台网络抓包调试工具

时间 2019-12-04

原文原文链接

whistle--跨平台网络抓包调试工具

[TOC]css

简介

whistle是一款跨平台的网络抓包调试工具，基于node开发。支持抓包，重放，替换，修改等方式来调试http(s),WebSocket请求，也能够做为普通的http代理。其功能和经常使用的fiddler(windows),Charles(Mac)工具功能相同，不过对于开发者更加友好，操做和调试更加方便，还支持node模块的插件。html

快速上手

安装

npm install -g whistle // 全局安装whistle

启动

w2 start  //启动whistle

配置代理 (推荐使用浏览器插件)

127.0.0.1:8899

配置规则

浏览器访问http://local.whistlejs.com 打开whistle界面，在rule里面配置:node

jd.com  127.0.0.1
taobao.com  127.0.0.1
tmall.com 127.0.0.1

OK，就是这么简单linux

安装使用

首先须要安装好node,官方推荐使用最新的LTS版本nodegit

安装whistle

node环境配置成功后开始安装whistle，非root用户加sudogithub

npm install -g whistle

安装完成后，执行命令whistle help或者w2 help能够查看whistle的帮助信息，有输出则证实已安装成功web

$ w2 help
Usage: whistle <command> [options]

Commands:

    run       Start a front service
    start     Start a background service
    stop      Stop current background service
    restart   Restart current background service
    help      Display help information
    
Options:

    -h, --help                                      output usage information
    -D, --baseDir [baseDir]                         the base dir of config data
    -A, --ATS                                       generate Root CA for iOS ATS (Node >= 6 is required)
    -z, --certDir [directory]                       custom certificate path
    -l, --localUIHost [hostname]                    local ui host (local.whistlejs.com by default)
    -n, --username [username]                       the username of whistle
    -w, --password [password]                       the password of whistle
    -N, --guestName [username]                      the guest name
    -W, --guestPassword [password]                  the guest password
    -s, --sockets [number]                          max sockets (60 by default)
    -S, --storage [newStorageDir]                   the new local storage directory
    -C, --copy [storageDir]                         copy storageDir to newStorageDir
    -c, --dnsCache [time]                           the cache time of DNS (30000ms by default)
    -H, --host [host]                               whistle listening host(:: or 0.0.0.0 by default)
    -p, --port [port]                               whistle listening port (8899 by default)
    -P, --uiport [uiport]                           whistle ui port (8900 by default)
    -m, --middlewares [script path or module name]  express middlewares path (as: xx,yy/zz.js)
    -M, --mode [mode]                               the whistle mode (as: pureProxy|debug|multiEnv)
    -u, --uipath [script path]                      web ui plugin path
    -t, --timeout [ms]                              request timeout (66000 ms by default)
    -e, --extra [extraData]                         extra data for plugin
    -f, --secureFilter [secureFilter]               the script path of secure filter
    -R, --reqCacheSize [reqCacheSize]               the cache size of request data (512 by default)
    -F, --frameCacheSize [frameCacheSize]           the cache size of socket frames (512 by default)
    -V, --version                                   output the version number

启动whistle

新版本的whistle支持三种等价命令whistle,w2,wproxy正则表达式

启动whistlechrome

w2 start

重启whistleexpress

w2 stop

中止whistle

w2 stop

启动调试模式（启动了一个前台服务,主要用于查看whistle的异常及插件开发）

w2 run

配置代理

代理服务器，若是在本地则为127.0.0.1，若是部署在远程服务器或者虚拟机上，就改为对应IP便可。
默认端口为8899，若是端口被占用，要修改端口号，能够经过 -p来指定新的端口号

代理方式

直接配置系统代理
- Windows
- Mac
安装浏览器代理插件，推荐方式
- Chrome插件：SwitchyOmega
- Firefox插件： ProxySelector
移动端须要配置当前WIFI的代理

如何使用

经过w2 start启动后，访问http://local.whistlejs.com 便可打开whistle界面。

全部经过whistle的篡改操做，均可以用过下面的配置方式实现

pattern operatorURL

pattern为匹配请求URL，支持域名，路径，正则，通配符等多种方式

operatorURI为对应的操做，由协议和值组成（operatorURL = opProtocol://opValue）
支持的协议类型：协议列表

PS; {value} 则对应工具栏Values下的文件

两边结合一下：

# 域名匹配IP
 www.example.com  127.0.0.1
 # 带端口的域名匹配
 www.example.com:6666  127.0.0.1
 # 带协议的域名，支持：http、https、ws、wss、tunnel
 http://www.example.com  127.0.0.1

 # 路径匹配，一样支持带协议、端口
 www.example.com/test  http://127.0.0.1:9090
 https:/www.exapmle.com/test http://127.0.0.1:9090
 https:/www.exapmle.com:6666/test  http://127.0.0.1:9090

 # 正则匹配
 /^https?://www\.example\.com\/test/(.*)/ referer://http://www.test.com/$1

 # 通配符匹配
 ^www.example.com/test/*** referer://http://www.test.com/$1

功能详解

whistle功能归纳：

代理设置

设置http代理

pattern proxy://ip:port
# 加用户名密码
pattern proxy://username:password@ip:port
www.jd.com proxy://test:123@127.0.0.1:8888

设置socks代理

pattern socks://ip:port
# 加用户名密码
pattern socks://username:password@ip:port

www.jd.com socks://test:123@127.0.0.1:8888

设置pac代理

pattern pac://filepath

/./ pac://https://raw.githubusercontent.com/imweb/node-pac/master/test/scripts/normal.pac

设置反向代理

区别于正向代理，具体可参考正向代理与反向代理
whistle做为反向代理只支持http访问，启动whistle时设置监听的端口为6060:

w2 start -p 6060
#或
w2 restart -p 6060

非root用户须要加sudo w2 start -p 6060。根据域名、或路径、或正则表达式配置带端口的host：

localhost:6060/aa host://10.8.43.82:8080
localhost:6060/bb host://10.8.43.82:8081

这样访问localhost:6060的请求会自动转到8080或8181端口，实现无故口访问。 PS：若是要用IP访问，能够采用 http://127.0.0.1/-/xxx 或 http://127.0.0.1/_/xxx，whistle会自动转成 http://127.0.0.1/xxx

移动端调试

移动端调试的时候须要在同一个局域网内，涉及到https的链接须要开启https拦截。

开启https拦截

若是要拦截https和websockets请求，必须安装根证书和开启https拦截。

在工具栏=>https 下载 RootCA, 并勾选 intercept HTTPS CONNECTs 选项

安装CA证书

具体参见：安装根证书

设置手机代理

设置 => 无线局域网 => 找到对应局域网点击感叹号 => HTTP代理配置代理 => 选择手动 => 填写whistle服务的IP和端口号

PS: 若是配置完代理，手机没法访问，多是whistle所在的电脑防火墙限制了远程访问whistle的端口，关闭防火墙或者设置白名单： http://jingyan.baidu.com/arti...

访问界面

whistle集成了weinre的功能，只须要简单配置pattern weinre://id便可使用。

而后点击工具栏的weinre，选择对应的ID打开weinre界面

移动调试

相对于PC调试，移动端调试会常遇到如下问题

没法经过console输出错误，也没法看到页面的js报错
没法查看和修改页面的DOM和样式
没法debug

1.来捕获页面的错误和log

whistle能够经过相似console的log平台，来捕获页面的错误和log

www.jd.com log://
# 若是你想同时注入js脚本，能够用下面一种方式
# 在mac或linux中
www.jd.com log:////Users/willhu/work/whistle-test/log-test.js
# 在windows中
www.jd.com log://D:\xxx\test.js
# 直接从whistle的Values配置的key-value里面获取脚本
www.jd.com log://{log-test.js}

2.查看、修改页面的DOM和样式

集成了weinre的功能，用户只需经过简单配置(pattern weinre://id)便可使用便可经过在pc上经过weinre修改网页的DOM结构及其样式,这里的ID只是一个分类，避免一个weinre调试页面出现太多连接

m.jd.com weinre://test-weinre

3. 暂不支持debug功能,能够经过log来替代

推荐腾讯的vConsole插件

m.jd.com js:///Users/willhu/work/whistle-test/vconsole.min.js

vConsole: https://github.com/Tencent/vC...

demo: vConsole

文件导入导出

在network中右键点击请求列表，能够将请求的数据导出到txt.saz文件，也可导入txt.saz.har文件。

抓包重放

查看请求响应数据

在network中能够看到每条请求的详细状况。

重放请求

打开network ==> 选中请求 ==> 右键选择replay

重构请求

能够自定义请求的URL、请求方法、请求头，请求内容

请求和响应修改

修改请求URL或者参数

设置静态规则列表

pattern reqScript://filepath
www.jd.com reqScript:///Users/willhu/work/whistle-test/rulelist.txt

rulelist.txt若是文件的第一行为规则的注释，即#开头则任务filepath指定的是规则列表，会加载该列表，并进行二次匹配获取规则

# rules
pattern1 operatorURI1
pattern2 operatorURI2
patternN operatorURIN

经过脚本设置规则列表

www.jd.com reqScript://{rulelist.js}

设置服务器IP(host)

支持两种配置方式，这样就不用查找本机的host文件了

ip pattern
或者
pattern host://ip

例子

# 传统hosts配置
127.0.0.1 www.example.com # 等价于： www.example.com  127.0.0.1
127.0.0.1 a.example.com b.example.com c.example.com

# 支持带端口
127.0.0.1:8080 www.example.com # 等价于： www.example.com  127.0.0.1：8080
127.0.0.1:8080 a.example.com b.example.com c.example.com

# 支持经过域名获取host，相似DNS的cname
host://www.qq.com:8080 www.example.com # 等价于： www.example.com  host://www.qq.com:8080
host://www.qq.com:8080 a.example.com b.example.com c.example.com

# 支持经过正则表达式匹配
127.0.0.1:8080 /example\.com/i # 等价于： /example\.com/i  127.0.0.1：8080
127.0.0.1:8080 /example\.com/ /test\.com/

# 支持路径匹配
127.0.0.1:8080 example.com/test # 等价于： example.com/test 127.0.0.1：8080
127.0.0.1:8080 http://example.com:5555/index.html www.example.com:6666 https://www.test.com/test

# 支持精确匹配
127.0.0.1:8080 $example.com/test # 等价于： $example.com/test 127.0.0.1：8080
127.0.0.1:8080 $http://example.com:5555/index.html $www.example.com:6666 $https://www.test.com/test

替换请求

https://jd.com https://baidu.com/

修改请求方法

配置方式以下：

pattern method://newMethod
jd.com method://post

修改请求头

修改请求头，配置方式：

pattern reqHeaders://filepath
jd.com reqHeaders://{reqHeaders.json}

修改请求内容

把指定的内容替换请求内容(GET等请求没有内容没有替换一说)，配置方式

pattern reqBody://filepath
www.jd.com method://post reqBody://{test-reqBody.html}

注入或替换内容

把指定的内容添加到请求内容前面(GET等请求没有内容没法添加)，配置方式：

pattern reqPrepend://filepath

限速或者延迟请求

延迟请求

pattern reqDelay://timeMS
www.jd.com reqDelay://3000

设置速度

pattern reqSpeed://kbs
www.jd.com reqSpeed://3

修改相应状态码

设置响应状态码(状态码范围100~999)，请求会直接根据设置的状态码返回，不会请求到线上，配置方式：

pattern statusCode://code
jd.com statusCode://404

修改响应头

方式同请求头

修改响应内容

把指定的内容替换响应内容(304等响应没有内容没法替换)，配置方式：

pattern resBody://filepath
st.360buyimg.com/m/css/2014/layout/layout2015.css resBody://{myAppend.css}

注入或者替换内容

把指定的内容追加到响应内容后面(304等响应没有内容没法追加)，配置方式：

pattern resAppend://filepath
st.360buyimg.com/m/css/2014/layout/layout2015.css resAppend://{myAppend.css}

限制速度或延迟响应

延迟响应

pattern resDelay://timeMS
www.jd.com resDelay://3000

设置速度

pattern resSpeed://kbs
www.jd.com resSpeed://3

插件扩展

有些不多用的功能，及一些跟业务相关的功能，考虑到会致使安装过程比较长或者占用内存空间或者适应范围比较小，whistle没有把这些功能加进去，但提供了插件的方式扩展这些功能。whistle自己就是一个Node模块，只须要按照whistle.xxx的形式命名便可。

编写whistle插件：如何编写插件

官方提供的插件列表：官方插件列表

socket和websocket

利用whistle调试socket和webscoket

测试用的文件：whistle-test-files

测试用的rules: rules

整理的有些凌乱，若有不对之处，请指正，谢谢。