不会吧,不会吧,还有人不知道网络爬虫是什么吧

 平衡礼貌策略 爬虫相比于人,可以有更快的检索速度和更深的层次,所以,他们可能使一个站点瘫痪。不需要说一个单独的爬虫一秒钟要执行多条请求,下载大的文件。一个服务器也会很难响应多线程爬虫的请求。   就像Koster(Koster,1995)所注意的那样,爬虫的使用对很多工作都是很有用的,但是对一般的社区,也需要付出代价。使用爬虫的代价包括:  网络资源:在很长一段时间,爬虫使用相当的带宽高度并行
相关文章
相关标签/搜索