碰到的一个反爬场景,它吃光了对应机器的内存,应用服务也无法正常使用

记起之前获取数据的时候碰到过一个状况,用光了机器的内存,致使应用服务都没法正常使用,因此这里简单记录一下。html 场景描述 作一些数据的分析,因此要抓点数据进行测试。因而分析目标网站以后,进行简单的编码开始抓取。web 抓取规则是获取n页列表的数据,而后解析列表中每一个页面的数据,进行入库操做。大概不到100页,每页10条数据。总共小于1000个页面。数据库 这里使用的是JAVA语言的webma
相关文章
相关标签/搜索