nodejs中request库使用HTTPS代理

工具和资料

• QQ群 - Javascript高级爬虫 - 做者自建群，欢迎加入！
• awesome-java-crawler - 做者收集的爬虫相关工具和资料

正文

正在尝试改用NodeJS编写爬虫，http请求库选择了request，用起来仍是挺简单的。
如今有个需求，须要用Fiddler抓包我发出去的请求，以便和浏览器发出去的包进行对比。
由于须要在Fiddler中解密HTTPS报文，须要让node要么忽略证书安全，要么信任Fiddler的CA证书。
网上找了一圈，总结以下：

方法一：设置环境变量

• 设置环境变量NODE_TLS_REJECT_UNAUTHORIZED=0
• 即"不拒绝未认证的证书"
• 可是直接修改系统环境变量比较危险，由于会影响到全部nodejs的程序；比较稳妥的办法是脚本中调用process.env["NODE_TLS_REJECT_UNAUTHORIZED"] = 0; 这样仅对本进程生效

方法二：每请求单独设置忽略证书安全

• 上述方法仍是有必定风险，由于当前nodejs进程都受此全局设置影响
• 能够在request的options中添加rejectUnauthorized: false选项来针对单个请求忽略证书检查

• 固然也能够用request.defaults直接设置默认选项

  const request = require("request").defaults({
        proxy: "http://127.0.0.1:8888",
        rejectUnauthorized: false,
    })
    request.get("https://www.baidu.com").on("response", console.log)

方法三：使用Fiddler的CA证书

• 这个方法是最稳妥的，不会让你的子系统产生任何溢出影响
• 首先在Fiddler内把其根证书导出到桌面：Tools -> Options -> HTTPS -> Actions -> Export Root Certificate to Desktop
• 导出的文件是个.cer证书，经测试nodejs不直接支持，须要用openssl转换成PEM格式（个人openssl是cygwin装的）
  openssl x509 -inform DER -in FiddlerRoot.cer -outform PEM -out fiddler.pem
• 把转换出来的fiddler.pem放到你的程序能访问的位置

• 使用ca选项来指定CA证书

  const request = require("request").defaults({
        proxy: "http://127.0.0.1:8888",
        ca: require("fs").readFileSync("path/to/fiddler.pem", {encoding: "utf-8"}),
    })
    request.get("https://www.baidu.com").on("response", console.log)

另外：request固然也支持自签名证书，不过我暂时没这方面需求，就没继续摸索了