爬取智联招聘网站的手段(scrapy)

首先www.zhaopin.com是智联招聘网站的首页,进行搜索后,比如搜Java,点右键查看网页源代码可以看到,网页里面搜到的内容是异步加载的如图所示: 然后点击f12打开开发者工具,如图: 再点击刷新查看发送的异步请求,并进行分析: 可以看到发送了两个异步请求,发现第二个是个后端接口,直接拿到postman中进行测试 ,如图: 发现是标准的接口,直接调用接口即可爬取到网站的数据,也就避免了对网
相关文章
相关标签/搜索