我的常规爬虫流程分享

首先,爬虫不是我的本职工作,我爬虫一般是为了一些有意思的东西,获取一些信息,或者是实现一些可以自动化完成的任务,比如签到。 一般我的爬虫流程是这样的: 1、浏览器访问待爬网页,并提前打开开发者工具(F12),选中 Nework 选项卡,这样就可以看到网络交互信息; 或者,右键查看网页源代码,查找目标信息。 2、在网络交互信息流中筛选出自己需要的,然后在 postman 中模拟请求,看是否仍然可以获
相关文章
相关标签/搜索