用NodeJS编写爬虫,http请求库选择了request ,用起来还是挺简单的。现在有个需求,需要用
Fiddler抓包发出去的请求,以便和浏览器发出去的包进行对比。因为需要解密HTTPS报文,需要让node要么忽略证书安全,要么信任Fiddler的CA证书,具体操作如下:
携趣IP代理 携趣HTTP代理 携趣IP代理 携趣HTTP代理 携趣IP代理 携趣HTTP代理
方法一:设置环境变量
设置环境变量NODE_TLS_REJECT_UNAUTHORIZED=0,即"不拒绝未认证的证书"。但是直接修改系统环境变量比较危险,因为会影响到所有nodejs的程序;比较稳妥的办法是脚本中调用process.env["NODE_TLS_REJECT_UNAUTHORIZED"] = 0; 这样仅对本进程生效。
携趣IP代理 携趣HTTP代理 携趣IP代理 携趣HTTP代理 携趣IP代理 携趣HTTP代理
方法二:每次请求单独设置忽略证书安全
上述方法还是有一定风险,因为当前nodejs进程都受此全局设置影响,可以在request的options中添加rejectUnauthorized: false选项来针对单个请求忽略证书检查,当然也可以用equest.defaults直接设置默认选项。
const request = require("request").defaults({
proxy: "http://123.123.123.123:88888",
rejectUnauthorized: false,
})
request.get("https://www.baidu.com").on("response", console.log)
方法三:使用Fiddler的CA证书
这个方法是最稳妥的,不会让你的子系统产生任何溢出影响。
首先在Fiddler内把其根证书导出到桌面:Tools -> Options -> HTTPS -> Actions -> Export Root Certificate to Desktop,导出的文件是个.cer证书,经测试nodejs不直接支持,需要用openssl转换成PEM格式。
openssl x509 -inform DER -in FiddlerRoot.cer -outform PEM -out fiddler.pem
把转换出来的fiddler.pem放到你的程序能访问的位置使用ca选项来指定CA证书
const request = require("request").defaults({
proxy: "http://123.123.123.123:88888",
ca: require("fs").readFileSync("path/to/fiddler.pem", {encoding: "utf-8"}),
})
request.get("https://www.baidu.com").on("response", console.log)
点击携趣www.xiequ.cn或添加客服,享更多资讯!

