网络爬虫基本原理

 网络爬虫是捜索引擎抓取系统的重要组成部分。爬虫的主要目的是将互联网上的网页下载到本地形成一个或联网内容的镜像备份。这篇博客主要对爬虫以及抓取系统进行一个简单的概述。 一、网络爬虫的基本结构及工作流程     一个通用的网络爬虫的框架如图所示：     网络爬虫的基本工作流程如下：     1.首先选取一部分精心挑选的种子URL；     2.将这些URL放入待抓取URL队列；     3.从待抓

>>阅读原文<<