爬虫的基本原理介绍

爬虫的基本原理介绍 一、什么是爬虫 爬虫：请求网站并提取数据的自动化程序 百科：网络爬虫（又被称为网页蜘蛛，网络机器人，在FOAF社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。   二、爬虫基本流程 发起请求：通过HTTP库向目标站点发起请求，即发送一个Request，请求可以包含额外的he

>>阅读原文<<