不管出于兴趣或者职业发展,因而最近开始作各类大小项目实践,以拉勾网数据分析招聘职位分析广州求职竞争状况!python
Tools : chrome; python 3.6;jupyter git
OS : mac osxgithub
Reference:wangwei-tongxue GITer;百度chrome
在拉勾网搜索页面输入数据分析,而且定位为广州,用F12打开开发调试工具,根据下图标红的地方查看详细信息:json
在general里面很容易看出是post请求,而且返回的是json数据,很方便读取,以下图cookie
经过观察分析,发现post请求时候由表单信息控制查询关键字和页码,echarts
同时,报头信息最好包括header,cookie,data等信息,用的requests库对获取的json数据解析,爬虫函数以下:函数
因为拉勾网反扒机制的限制,设置10s的抓取间隔,效率较低,时间间隔能够本身看状况设定。工具
查看抓取的数据状况:post
简单的数据清洗,而后能够用df.to_csv保存或直接分析
能够导入pyecharts库,进行可视化,注意文件能够保存在当前工做目录(os.getcwd能够查看当前路径),由图能够看出数据工做几乎集中在天河区!
(以拉勾网为例)应届生大部分薪资在5000+,而工做3年以上的工资接近两万!工做经验基本与工资成正比,学无止境,加油!