WebCollector爬虫的种子

网络爬虫之所以能够不断找到新的网页,是因为它能够从已经爬取的页面中,提取出未爬取的超链接,但是当爬虫开启的时候,是没有已知网页的。所以我们需要告诉爬虫至少1个url,让爬虫通过爬取这个url对应的网页,来找到新的网页(通过超链接抽取)。 对于广度遍历来说,种子就是树的树根(森林的树根集合)。 例如下图,对http://www.apache.org/进行爬取,http://www.apache.or
相关文章
相关标签/搜索