Python爬虫知识点梳理

学任何一门技术，都应该带着目标去学习，目标就像一座灯塔，指引你前进，不少人学着学着就学放弃了，很大部分缘由是没有明确目标，因此，在你准备学爬虫前，先问问本身为何要学习爬虫。有些人是为了一份工做，有些人是为了好玩，也有些人是为了实现某个黑科技功能。不过能够确定的是，学会了爬虫能给你的工做提供不少便利。

做为零基础小白，大致上可分为三个阶段去实现，第一阶段是入门，掌握必备基础知识，好比Python基础、网络请求的基本原理等，第二阶段是模仿，跟着别人的爬虫代码学，弄懂每一行代码，熟悉主流的爬虫工具，第三阶段是本身动手，到了这个阶段你开始有本身的解题思路了，能够独立设计爬虫系统。

爬虫涉及的技术包括但不限于熟练一门编程语言（这里以 Python 为例） HTML 知识、HTTP 协议的基本知识、正则表达式、数据库知识，经常使用抓包工具的使用、爬虫框架的使用、涉及到大规模爬虫，还须要了解分布式的概念、消息队列、经常使用的数据结构和算法、缓存，甚至还包括机器学习的应用，大规模的系统背后都是靠不少技术来支撑的。数据分析、挖掘、甚至是机器学习都离不开数据，而数据不少时候须要经过爬虫来获取，所以，即便把爬虫做为一门专业来学也是有很大前途的。

那么是否是必定要把上面的知识全学完了才能够开始写爬虫吗？固然不是，学习是一生的事，只要你会写 Python 代码了，就直接上手爬虫，比如学车，只要能开动了就上路吧，写代码可比开车安全多了。

用 Python 写爬虫，首先须要会 Python，把基础语法搞懂，知道怎么使用函数、类、list、dict 中的经常使用方法就算基本入门。接着你须要了解 HTML，HTML 就是一个文档树结构，网上有个 HTML 30分钟入门教程 https://deerchao.net/tutorials/html/html.htm 够用了。而后是关于 HTTP 的知识，爬虫基本原理就是经过网络请求从远程服务器下载数据的过程，而这个网络请求背后的技术就是基于 HTTP 协议。做为入门爬虫来讲，你须要了解 HTTP协议的基本原理，虽然 HTTP 规范用一本书都写不完，但深刻的内容能够放之后慢慢去看，理论与实践相结合。

网络请求框架都是对 HTTP 协议的实现，好比著名的网络请求库 Requests 就是一个模拟浏览器发送 HTTP 请求的网络库。了解 HTTP 协议以后，你就能够专门有针对性的学习和网络相关的模块了，好比 Python 自带有 urllib、urllib2（Python3中的urllib），httplib，Cookie等内容，固然你能够直接跳过这些，直接学习 Requests 怎么用，前提是你熟悉了 HTTP协议的基本内容，数据爬下来，大部分状况是 HTML 文本，也有少数是基于 XML 格式或者 Json 格式的数据，要想正确处理这些数据，你要熟悉每种数据类型的解决方案，好比 JSON 数据能够直接使用 Python自带的模块 json，对于 HTML 数据，可使用 BeautifulSoup、lxml 等库去处理，对于 xml 数据，除了可使用 untangle、xmltodict 等第三方库。