之前利用工具抓取网络请求时都是使用Charles
,而后愈来愈以为Charles
有些卡,而且只能过滤HTTP
协议。可是Charles
过滤的网络请求数据显示的很是清晰。 后来就换着使用WireShark
来抓取手机上的网络请求。html
WireShark
功能很是强大,它能过滤几乎全部的协议,而且也不多出现卡顿的状况,体验起来确实比Charles
要好。在介绍使用WireShark
以前,咱们首先要了解一些常见的协议:HTTP,TCP,UDP等。git
HTTP协议,即超文本传输协议(Hypertext transfer protocol)。是一种详细规定了浏览器和万维网(WWW = World Wide Web)服务器之间互相通讯的规则,经过因特网传送万维网文档的数据传送协议。github
HTTP是一个应用层协议,由请求和响应构成,是一个标准的客户端服务器模型。HTTP是一个无状态的协议。同一个客户端的此次请求和上次请求是没有对应关系,对http服务器来讲,它并不知道这两个请求来自同一个客户端。 为了解决这个问题, Web程序引入了Cookie机制来维护状态.算法
在Internet中全部的传输都是经过TCP/IP进行的。HTTP协议做为TCP/IP模型中应用层的协议也不例外。HTTP协议一般承载于TCP协议之上,有时也承载于TLS或SSL协议层之上,这个时候,就成了咱们常说的HTTPS。编程
HTTP默认的端口号为80,HTTPS的端口号为443。跨域
URL(Uniform Resource Locator) 地址用于描述一个网络上的资源, 基本格式以下:浏览器
schema://host[:port#]/path/.../[?query-string][#anchor]
复制代码
scheme 指定低层使用的协议(例如:http, https, ftp)缓存
host HTTP服务器的IP地址或者域名安全
port# HTTP服务器的默认端口是80,这种状况下端口号能够省略。若是使用了别的端口,必须指明,例如 http://www.hao2you.com:8080/bash
path 访问资源的路径
query-string 发送给http服务器的数据
anchor- 锚
打开一个网页须要浏览器发送不少次Request:
HTTP消息分为请求和响应消息。
在请求消息的结构中,包括三部分:请求行、请求头、请求体。
请求行的格式为: METHOD /path HTTP/version-number
METHOD
:表示请求方式,常见的有POST
,GET
等。path
: 表示请求的资源HTTP/version-number
: 表示HTTP协议的版本号请求头内包含不少的键值对。
请求体就是咱们要往服务器发送的内容。在GET
方式下的请求体是空的。
响应消息的结构和请求消息的结构答题相同,一样也分为三部分:响应行、响应头、响应体。
响应行的格式为:HTTP/version-number status-code message
Http协议定义了不少与服务器交互的方法,最基本的有4种,分别是GET,POST,PUT,DELETE. 一个URL地址用于描述一个网络上的资源,而HTTP中的GET, POST, PUT, DELETE就对应着对这个资源的查,改,增,删4个操做。 咱们最多见的就是GET和POST了。GET通常用于获取/查询资源信息,而POST通常用于更新资源信息。
GET和POST的区别:
Response 消息中的第一行叫作状态行,由HTTP协议版本号、状态码、状态消息 ,三部分组成。状态码用来告诉HTTP客户端,HTTP服务器是否产生了预期的Response.
HTTP/1.1中定义了5类状态码, 状态码由三位数字组成,第一个数字定义了响应的类别:
1XX 提示信息 - 表示请求已被成功接收,继续处理
2XX 成功 - 表示请求已被成功接收,理解,接受
3XX 重定向 - 要完成请求必须进行更进一步的处理
4XX 客户端错误 - 请求有语法错误或请求没法实现
5XX 服务器端错误 - 服务器未能实现合法的请求
下面是一些常见的状态码:
request header 中的内容大体如图:
catch中包含的内容不只仅是上图中显示的内容,可能还有其它类型的内容。如下是常见的catch中的内容:
If-Modified-Since : 把浏览器端缓存页面的最后修改时间发送到服务器去,服务器会把这个时间与服务器上实际文件的最后修改时间进行对比。若是时间一致,那么返回304,客户端就直接使用本地缓存文件。若是时间不一致,就会返回200和新的文件内容。客户端接到以后,会丢弃旧文件,把新文件缓存起来,并显示在浏览器中.
If-None-Match : If-None-Match和ETag一块儿工做,工做原理是在HTTP Response中添加ETag信息。 当用户再次请求该资源时,将在HTTP Request 中加入If-None-Match信息(ETag的值)。若是服务器验证资源的ETag没有改变(该资源没有更新),将返回一个304状态告诉客户端使用本地缓存文件。不然将返回200状态和新的资源和Etag. 使用这样的机制将提升网站的性能
Pragma : 防止页面被缓存, 在HTTP/1.1版本中,它和Cache-Control:no-cache做用如出一辙,Pargma只有一个用法, 例如: Pragma: no-cache
注意: 在HTTP/1.0版本中,只实现了Pragema:no-cache, 没有实现Cache-Control
复制代码
Cache-Control:这个是很是重要的规则。 这个用来指定Response-Request遵循的缓存机制。各个指令含义以下:
Accept : 浏览器端能够接受的媒体类型。
例如: Accept: text/html 表明浏览器能够接受服务器回发的类型为 text/html 也就是咱们常说的html文档,
若是服务器没法返回text/html类型的数据,服务器应该返回一个406错误(non acceptable)
通配符 * 表明任意类型
例如 Accept: */*
表明浏览器能够处理全部类型,(通常浏览器发给服务器都是发这个)
Accept-Encoding: 浏览器申明本身接收的编码方法,一般指定压缩方法,是否支持压缩,支持什么压缩方法(gzip,deflate),(注意:这不是指字符编码);
例如: Accept-Encoding: gzip, deflate
Accept-Language : 浏览器申明本身接收的语言。
语言跟字符集的区别:中文是语言,中文有多种字符集,好比big5,gb2312,gbk等等;
例如: Accept-Language: en-us
User-Agent : 告诉HTTP服务器, 客户端使用的操做系统和浏览器的名称和版本.
咱们上网登录论坛的时候,每每会看到一些欢迎信息,其中列出了你的操做系统的名称和版本,你所使用的浏览器的名称和版本,这每每让不少人感到很神奇,实际上,服务器应用程序就是从User-Agent这个请求报头域中获取到这些信息User-Agent请求报头域容许客户端将它的操做系统、浏览器和其它属性告诉服务器。
例如: User-Agent: Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 5.1; Trident/4.0; CIBA; .NET CLR 2.0.50727; .NET CLR 3.0.4506.2152; .NET CLR 3.5.30729; .NET4.0C; InfoPath.2; .NET4.0E)
Accept-Charset : 浏览器申明本身接收的字符集,这就是本文前面介绍的各类字符集和字符编码,如gb2312,utf-8(一般咱们说Charset包括了相应的字符编码方案);
Cookie : 最重要的header, 将cookie的值发送给HTTP 服务器
Referer: 提供了Request的上下文信息的服务器,告诉服务器我是从哪一个连接过来的,好比从我主页上连接到一个朋友那里,他的服务器就可以从HTTP Referer中统计出天天有多少用户点击我主页上的连接访问他的网站。
例如: Referer:http://translate.google.cn/?hl=zh-cn&tab=wT
Connection : Connection: keep-alive
当一个网页打开完成后,客户端和服务器之间用于传输HTTP数据的TCP链接不会关闭,若是客户端再次访问这个服务器上的网页,会继续使用这一条已经创建的链接; Connection: close
表明一个Request完成后,客户端和服务器之间用于传输HTTP数据的TCP链接会关闭, 当客户端再次发送Request,须要从新创建TCP链接。
Host : (发送请求时,该报头域是必需的),请求报头域主要用于指定被请求资源的Internet主机和端口号,它一般从HTTP URL中提取出来的。
例如: 咱们在浏览器中输入:http://www.guet.edu.cn/index.html
浏览器发送的请求消息中,就会包含Host请求报头域,以下:
Host:http://www.guet.edu.cn
此处使用缺省端口号80,若指定了端口号,则变成:Host:指定端口号 。
response header 中的内容大体如图:
Date : 生成消息的具体时间和日期。
Expires : 浏览器会在指定过时时间内使用本地缓存。
例如: Expires: Tue, 08 Feb 2022 11:35:14 GMT
Vary :
例如: Vary: Accept-Encoding
P3P : 用于跨域设置Cookie, 这样能够解决iframe跨域访问cookie的问题
例如: P3P: CP=CURa ADMa DEVa PSAo PSDo OUR BUS UNI PUR INT DEM STA PRE COM NAV OTC NOI DSP COR
Set-Cookie : 很是重要的header, 用于把cookie 发送到客户端浏览器, 每个写入cookie都会生成一个Set-Cookie.
例如: Set-Cookie: sc=4c31523a; path=/; domain=.acookie.taobao.com
ETag : 和If-None-Match 配合使用。实例请看上节中If-None-Match的实例)
Last-Modified : 用于指示资源的最后修改日期和时间。(实例请看上节的If-Modified-Since的实例)
Content-Type : WEB服务器告诉浏览器本身响应的对象的类型和字符集。 例如:
Content-Type: text/html; charset=utf-8
Content-Type:text/html;charset=GB2312
Content-Type: image/jpeg
复制代码
Content-Length : 指明实体正文的长度,以字节方式存储的十进制数字来表示。在数据下行的过程当中,Content-Length的方式要预先在服务器中缓存全部数据,而后全部数据再一古脑儿地发给客户端。
Content-Encoding : WEB服务器代表本身使用了什么压缩方法(gzip,deflate)压缩响应中的对象。
Content-Language : WEB服务器告诉浏览器本身响应的对象的语言者
Server : 指明HTTP服务器的软件信息
X-AspNet-Version: 若是网站是用ASP.NET开发的,这个header用来表示ASP.NET的版本
X-Powered-By:表示网站是用什么技术开发的
Connection : Connection: keep-alive
当一个网页打开完成后,客户端和服务器之间用于传输HTTP数据的TCP链接不会关闭,若是客户端再次访问这个服务器上的网页,会继续使用这一条已经创建的链接;Connection: close
表明一个Request完成后,客户端和服务器之间用于传输HTTP数据的TCP链接会关闭, 当客户端再次发送Request,须要从新创建TCP链接。
Location : 用于重定向一个新的位置, 包含新的URL地址
无状态是指协议对于事务处理没有记忆能力,服务器不知道客户端是什么状态。从另外一方面讲,打开一个服务器上的网页和你以前打开这个服务器上的网页之间没有任何联系
HTTP是一个无状态的面向链接的协议,无状态不表明HTTP不能保持TCP链接,更不能表明HTTP使用的是UDP协议(无链接)
从HTTP/1.1起,默认都开启了Keep-Alive,保持链接特性,简单地说,当一个网页打开完成后,客户端和服务器之间用于传输HTTP数据的TCP链接不会关闭,若是客户端再次访问这个服务器上的网页,会继续使用这一条已经创建的链接
Keep-Alive不会永久保持链接,它有一个保持时间,能够在不一样的服务器软件(如Apache)中设定这个时间。
手机链接上电脑,而后在命令行中输入如下命令来建立一个网络监听接口:
rvictl -s uuid 复制代码
eg: 建立一个rvi0监听手机的网络活动
qis-Mac-mini:Desktop qi$ rvictl -s 6f2eb102cd69721a1456d0bca56ad0d0a23b6e89 Starting device 6f2eb102cd69721a1456d0bca56ad0d0a23b6e89 [SUCCEEDED] with interface rvi0 复制代码
抓取post请求方式的包:
抓取get请求方式的包:
HTTPS(全称:Hypertext Transfer Protocol over Secure Socket Layer)安全套接字层超文本传输协议HTTPS,为了数据传输的安全,HTTPS在HTTP的基础上加入了SSL协议,SSL依靠证书来验证服务器的身份,并为浏览器和服务器之间的通讯加密。HTTPS所用的端口号是443 。
为了能更好的理解HTTPS,首先须要了解一些概念。
加密和解密使用的秘钥是相同的秘钥。所以对称加密要保证安全性的话,秘钥要作好保密,只能让使用的人知道,不能够公开。
RSA是一种公钥密码体制,如今使用的很普遍。公钥公开,私钥保密,他的加密解密算法是公开的。由公钥加密的内容能够而且只能有私钥解密,而且由私钥加密的内容能够而且只能由公钥解密。也就是说,RSA的这一对公钥、私钥均可以用来加密和解密,而且一方加密的内容能够由而且只能由对方进行解密。可用于验证HTTPS各类秘钥的加密。
签名就是在信息的后面再加上一段内容,能够证实信息没有被修改过,怎么样能够达到这个效果呢?通常是对信息作一个hash计算获得一个hash值,注意,这个过程是不可逆的,也就是说没法经过hash值得出原来的信息内容。在把信息发送出去时,把这个hash值加密后作为一个签名和信息一块儿发出去。 接收方在收到信息后,会从新计算信息的hash值,并和信息所附带的hash值(解密后)进行对比,若是一致,就说明信息的内容没有被修改过,由于这里hash计算能够保证不一样的内容必定会获得不一样的hash值,因此只要内容一被修改,根据信息内容计算的hash值就会变化。固然,不怀好意的人也能够修改信息内容的同时也修改hash值,从而让它们能够相匹配,为了防止这种状况,hash值通常都会加密后(也就是签名)再和信息一块儿发送,以保证这个hash值不被修改。可是客户端如何解密呢?这就涉及到数字证书了。
证书中包含我的基本信息,以及最重要的公钥。
若是证书在传输的过程当中被篡改了呢?因此后来又出现了数字签名。
CA就是用它的私钥对消息摘要加密,造成签名,并把原始信息和数据签名进行合并,即所谓的数字证书。这样,当别人把他的证书发过来的时候,我再用一样的Hash算法,再次生成消息摘要。而后用CA的公钥对数字签名解密,获得CA建立的消息摘要,二者一比较,就知道中间有没有被人篡改了。
下图是HTTPS的通讯过程:
[图片上传失败...(image-a96c81-1551686316747)]