全国建筑市场监管公共服务平台（四库一）平台数据爬取

http://jzsc.mohurd.gov.cn/data/company击企业查询, 发现返回的数据是通过加密的

1. 寻找返回的数据

既然数据是经过这个 url 返回的, 全局搜索url

http://jzsc.mohurd.gov.cn/api/webApi/dataservice/query/comp/list?pg=0&pgsz=15

尝试全局模糊搜索 /query/comp/list

点击进入 js 函数

返回的结果是请求 url /dataservice/query/comp/list获得的, 打上断点 点击搜索 一步一步调式js代码

调试过程就不一步一步分析了, 最终定位到, 感受像咱们想要的数据, 进入Console打印一下t 和 e

t

t 中data 是 最初咱们请求http://jzsc.mohurd.gov.cn/api/webApi/dataservice/query/comp/list?pg=0&pgsz=15 所返回的数据

e 这其中的数据不正是咱们想要的数据

2.分析加密方式

既然咱们已经知道了数据的加密方式, 那咱们就重点分析一下这个地方

其中t.data咱们在第一步已经分出来了 使咱们第一步请求 http://jzsc.mohurd.gov.cn/api/webApi/dataservice/query/comp/list?pg=0&pgsz=15获得的结果

那咱们重点分析 p函数 的处理过程, 点击进入 p函数, 结果以下

对数据通过层层加密处理后,调用toString方法, 既然加密函数已经找到,咱们就能够编写代码了

3.代码实现

咱们将函数 p 的代码复制出来, data是加密后返回的数据,咱们先复制出来用一下

运行一下项目

报错的缘由 , 其中 u 和 d 没有进行初始化 咱们寻找一下 u 和 d , 就在函数 p的上方

咱们添加到代码把 u 和 d 添加到代码中

运行项目 进行测试

其中返回的数据 , 正是咱们想要的结果

请勿用于非法用途