本地的进程间通讯(IPC)有不少种方式,但能够总结为下面4类:php
但这些都不是本文的主题!咱们要讨论的是网络中进程之间如何通讯?首要解决的问题是如何惟一标识一个进程,不然通讯无从谈起!在本地能够经过进程PID来惟一标识一个进程,可是在网络中这是行不通的。其实TCP/IP协议族已经帮咱们解决了这个问题,网络层的“ip地址”能够惟一标识网络中的主机,而传输层的“协议+端口”能够惟一标识主机中的应用程序(进程)。这样利用三元组(ip地址,协议,端口)就能够标识网络的进程了,网络中的进程通讯就能够利用这个标志与其它进程进行交互。html
使用TCP/IP协议的应用程序一般采用应用编程接口:UNIX BSD的套接字(socket)和UNIX System V的TLI(已经被淘汰),来实现网络进程之间的通讯。就目前而言,几乎全部的应用程序都是采用socket,而如今又是网络时代,网络中进程通讯是无处不在,这就是我为何说“一切皆socket”。python
网络编程对全部开发语言都是同样的,Python也不例外。用Python进行网络编程,就是在Python程序自己这个进程内,链接别的服务器进程的通讯端口进行通讯。linux
(1) IP、TCP和UDP
当您编写socket应用程序的时候,您能够在使用TCP仍是使用UDP之间作出选择。它们都有各自的优势和缺点。
TCP是流协议,而UDP是数据报协议。换句话说,TCP在客户机和服务器之间创建持续的开放链接,在该链接的生命期内,字节能够经过该链接写出(而且保证顺序正确)。然而,经过 TCP 写出的字节没有内置的结构,因此须要高层协议在被传输的字节流内部分隔数据记录和字段。
另外一方面,UDP不须要在客户机和服务器之间创建链接,它只是在地址之间传输报文。UDP的一个很好特性在于它的包是自分隔的(self-delimiting),也就是一个数据报都准确地指出它的开始和结束位置。然而,UDP的一个可能的缺点在于,它不保证包将会按顺序到达,甚至根本就不保证。固然,创建在UDP之上的高层协议可能会提供握手和确认功能。
对于理解TCP和UDP之间的区别来讲,一个有用的类比就是电话呼叫和邮寄信件之间的区别。在呼叫者用铃声通知接收者,而且接收者拿起听筒以前,电话呼叫不是活动的。只要没有一方挂断,该电话信道就保持活动,可是在通话期间,他们能够自由地想说多少就说多少。来自任何一方的谈话都按临时的顺序发生。另外一方面,当你发一封信的时候,邮局在投递时既不对接收方是否存在做任何保证,也不对信件投递将花多长时间作出有力保证。接收方可能按与信件的发送顺序不一样的顺序接收不一样的信件,而且发送方也可能在他们发送信件是交替地接收邮件。与(理想的)邮政服务不一样,没法送达的信件老是被送到死信办公室处理,而再也不返回给发送。
编程
(2)对等方、端口、名称和地址
除了TCP和UDP协议之外,通讯一方(客户机或者服务器)还须要知道的关于与之通讯的对方机器的两件事情:IP地址或者端口。IP地址是一个32位的数据值,为了人们好记,通常用圆点分开的4组数字的形式来表示,好比:64.41.64.172。端口是一个16位的数据值,一般被简单地表示为一个小于65536的数字。大多数状况下,该值介于10到100的范围内。一个IP地址获取送到某台机器的一个数据包,而一个端口让机器决定将该数据包交给哪一个进程/服务(若是有的话)。这种解释略显简单,但基本思路是正确的。
上面的描述几乎都是正确的,但它也遗漏了一些东西。大多数时候,当人们考虑Internet主机(对等方)时,咱们都不会记忆诸如64.41.64.172这样的数字,而是记忆诸如gnosis.cx这样的名称。为了找到与某个特定主机名称相关联的IP地址,通常都使用域名服务器(DNS),可是有时会首先使用本地查找(常常是经过/etc/hosts的内容)。对于本教程,咱们将通常地假设有一个IP地址可用,不过下面讨论编写名称查找代码。
设计模式
(3)主机名称解析
命令行实用程序nslookup能够被用来根据符号名称查找主机IP地址。实际上,许多常见的实用程序,好比ping或者网络配置工具,也会顺便作一样的事情。可是以编程方式作这样的事情很简单。浏览器
======================TCP/IP======================
应用层: 它只负责产生相应格式的数据 ssh ftp nfs cifs dns http smtp pop3
-----------------------------------
传输层: 定义数据传输的两种模式:
TCP(传输控制协议:面向链接,可靠的,效率相对不高)
UDP(用户数据报协议:非面向链接,不可靠的,但效率高)
-----------------------------------
网络层: 链接不一样的网络如以太网、令牌环网
IP (路由,分片) 、ICMP、 IGMP
ARP ( 地址解析协议,做用是将IP解析成MAC )
-----------------------------------
数据链路层: 以太网传输
-----------------------------------
物理层: 主要任务是规定各类传输介质和接口与传输信号相关的一些特性
-----------------------------------
服务器
TCP/IP(Transmission Control Protocol/Internet Protocol)即传输控制协议/网间协议,是一个工业标准的协议集,它是为广域网(WANs)设计的。网络
TCP socket 因为在通向前须要创建链接,因此其模式较 UDP socket 负责些。多线程
UDP(User Data Protocol,用户数据报协议)是与TCP相对应的协议。它是属于TCP/IP协议族中的一种。如图:
UDP Socket图:
UDP socket server 端代码在进行bind后,无需调用listen方法。
TCP/IP协议族包括运输层、网络层、链路层,
而socket所在位置如图,Socket是应用层与TCP/IP协议族通讯的中间软件抽象层。
socket起源于Unix,而Unix/Linux基本哲学之一就是“一切皆文件”,均可以用“打开open –> 读写write/read –> 关闭close”模式来操做。Socket就是该模式的一个实现,socket便是一种特殊的文件,一些socket函数就是对其进行的操做(读/写IO、打开、关闭).
说白了Socket是应用层与TCP/IP协议族通讯的中间软件抽象层,它是一组接口。在设计模式中,Socket其实就是一个门面模式,它把复杂的TCP/IP协议族隐藏在Socket接口后面,对用户来讲,一组简单的接口就是所有,让Socket去组织数据,以符合指定的协议。
注意:其实socket也没有层的概念,它只是一个facade设计模式的应用,让编程变的更简单。是一个软件抽象层。在网络编程中,咱们大量用的都是经过socket实现的。
Socket是网络编程的一个抽象概念。一般咱们用一个Socket表示“打开了一个网络连接”,而打开一个Socket须要知道目标计算机的IP地址和端口号,再指定协议类型便可。
咱们知道tcp创建链接要进行“三次握手”,即交换三个分组。大体流程以下:
只有就完了三次握手,可是这个三次握手发生在socket的那几个函数中呢?请看下图:
图一、socket中发送的TCP三次握手
从图中能够看出,当客户端调用connect时,触发了链接请求,向服务器发送了SYN J包,这时connect进入阻塞状态;服务器监听到链接请求,即收到SYN J包,调用accept函数接收请求向客户端发送SYN K ,ACK J+1,这时accept进入阻塞状态;客户端收到服务器的SYN K ,ACK J+1以后,这时connect返回,并对SYN K进行确认;服务器收到ACK K+1时,accept返回,至此三次握手完毕,链接创建。
总结:客户端的connect在三次握手的第二个次返回,而服务器端的accept在三次握手的第三次返回。
上面介绍了socket中TCP的三次握手创建过程,及其涉及的socket函数。如今咱们介绍socket中的四次握手释放链接的过程,请看下图:
图二、socket中发送的TCP四次握手
图示过程以下:
这样每一个方向上都有一个FIN和ACK。
Python 提供了两个级别访问的网络服务。:
Socket又称"套接字",应用程序一般经过"套接字"向网络发出请求或者应答网络请求,使主机间或者一台计算机上的进程间能够通信。
socket和file的区别:
服务器端先初始化Socket,而后与端口绑定(bind),对端口进行监听(listen),调用accept阻塞,等待客户端链接。在这时若是有个客户端初始化一个Socket,而后链接服务器(connect),若是链接成功,这时客户端与服务器端的链接就创建了。客户端发送数据请求,服务器端接收请求并处理请求,而后把回应数据发送给客户端,客户端读取数据,最后关闭链接,一次交互结束。
Python 中,咱们用 socket()函数来建立套接字,语法格式以下:
1
|
socket.socket([family[,
type
[, proto]]])
|
SOCK_STREAM
或SOCK_DGRAM
咱们使用 socket 模块的 socket 函数来建立一个 socket 对象。socket 对象能够经过调用其余函数来设置一个 socket 服务。
如今咱们能够经过调用 bind(hostname, port) 函数来指定服务的 port(端口)。
接着,咱们调用 socket 对象的 accept 方法。该方法等待客户端的链接,并返回 connection 对象,表示已链接到客户端。
完整代码以下:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
|
#!/usr/bin/python3
# 文件名:server.py
# 导入 socket、sys 模块
import
socket
import
sys
# 建立 socket 对象
serversocket
=
socket.socket(
socket.AF_INET, socket.SOCK_STREAM)
# 获取本地主机名
host
=
socket.gethostname()
port
=
9999
# 绑定端口
serversocket.bind((host, port))
# 设置最大链接数,超事后排队
serversocket.listen(
5
)
while
True
:
# 创建客户端链接
clientsocket,addr
=
serversocket.accept()
print
(
"链接地址: %s"
%
str
(addr))
msg
=
'欢迎访问python教程!'
+
"\r\n"
clientsocket.send(msg.encode(
'utf-8'
))
clientsocket.close()
|
接下来咱们写一个简单的客户端实例链接到以上建立的服务。端口号为 12345。
socket.connect(hosname, port ) 方法打开一个 TCP 链接到主机为 hostname 端口为 port 的服务商。链接后咱们就能够从服务端后期数据,记住,操做完成后须要关闭链接。
完整代码以下:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
|
#!/usr/bin/python3
# 文件名:client.py
# 导入 socket、sys 模块
import
socket
import
sys
# 建立 socket 对象
s
=
socket.socket(socket.AF_INET, socket.SOCK_STREAM)
# 获取本地主机名
host
=
socket.gethostname()
# 设置端口好
port
=
9999
# 链接服务,指定主机和端口
s.connect((host, port))
# 接收小于 1024 字节的数据
msg
=
s.recv(
1024
)
s.close()
print
(msg.decode(
'utf-8'
))
|
先执行server端,而后打开client端就能看到结果
大多数链接都是可靠的TCP链接。建立TCP链接时,主动发起链接的叫客户端,被动响应链接的叫服务器。
举个例子,当咱们在浏览器中访问新浪时,咱们本身的计算机就是客户端,浏览器会主动向新浪的服务器发起链接。若是一切顺利,新浪的服务器接受了咱们的链接,一个TCP链接就创建起来的,后面的通讯就是发送网页内容了。
因此,咱们要建立一个基于TCP链接的Socket,能够这样作:
1
2
3
4
5
6
7
|
# 导入socket库:
import
socket
# 建立一个socket:
s
=
socket.socket(socket.AF_INET, socket.SOCK_STREAM)
# 创建链接:
s.connect((
'www.sina.com.cn'
,
80
))
|
建立Socket
时,AF_INET
指定使用IPv4协议,若是要用更先进的IPv6,就指定为AF_INET6
。SOCK_STREAM
指定使用面向流的TCP协议,这样,一个Socket
对象就建立成功,可是尚未创建链接。
客户端要主动发起TCP链接,必须知道服务器的IP地址和端口号。新浪网站的IP地址能够用域名www.sina.com.cn
自动转换到IP地址,可是怎么知道新浪服务器的端口号呢?
答案是做为服务器,提供什么样的服务,端口号就必须固定下来。因为咱们想要访问网页,所以新浪提供网页服务的服务器必须把端口号固定在80
端口,由于80
端口是Web服务的标准端口。其余服务都有对应的标准端口号,例如SMTP服务是25
端口,FTP服务是21
端口,等等。端口号小于1024的是Internet标准服务的端口,端口号大于1024的,能够任意使用。
所以,咱们链接新浪服务器的代码以下:
1
|
s.connect((
'www.sina.com.cn'
,
80
))
|
注意参数是一个tuple
,包含地址和端口号。
创建TCP链接后,咱们就能够向新浪服务器发送请求,要求返回首页的内容:
1
2
|
# 发送数据:
s.send(b
'GET / HTTP/1.1\r\nHost: www.sina.com.cn\r\nConnection: close\r\n\r\n'
)
|
TCP链接建立的是双向通道,双方均可以同时给对方发数据。可是谁先发谁后发,怎么协调,要根据具体的协议来决定。例如,HTTP协议规定客户端必须先发请求给服务器,服务器收到后才发数据给客户端。
发送的文本格式必须符合HTTP标准,若是格式没问题,接下来就能够接收新浪服务器返回的数据了:
接收数据时,调用recv(max)
方法,一次最多接收指定的字节数,所以,在一个while循环中反复接收,直到recv()
返回空数据,表示接收完毕,退出循环。
当咱们接收完数据后,调用close()
方法关闭Socket,这样,一次完整的网络通讯就结束了:
1
2
|
# 关闭链接:
s.close()
|
接收到的数据包括HTTP头和网页自己,咱们只须要把HTTP头和网页分离一下,把HTTP头打印出来,网页内容保存到文件:
1
2
3
4
5
|
header, html
=
data.split(b
'\r\n\r\n'
,
1
)
print
(header.decode(
'utf-8'
))
# 把接收的数据写入文件:
with
open
(
'sina.html'
,
'wb'
) as f:
f.write(html)
|
如今,只须要在浏览器中打开这个sina.html
文件,就能够看到新浪的首页了。
和客户端编程相比,服务器编程就要复杂一些。
服务器进程首先要绑定一个端口并监听来自其余客户端的链接。若是某个客户端链接过来了,服务器就与该客户端创建Socket链接,随后的通讯就靠这个Socket链接了。
因此,服务器会打开固定端口(好比80)监听,每来一个客户端链接,就建立该Socket链接。因为服务器会有大量来自客户端的链接,因此,服务器要可以区分一个Socket链接是和哪一个客户端绑定的。一个Socket依赖4项:服务器地址、服务器端口、客户端地址、客户端端口来惟一肯定一个Socket。
可是服务器还须要同时响应多个客户端的请求,因此,每一个链接都须要一个新的进程或者新的线程来处理,不然,服务器一次就只能服务一个客户端了。
咱们来编写一个简单的服务器程序,它接收客户端链接,把客户端发过来的字符串加上Hello
再发回去。
首先,建立一个基于IPv4和TCP协议的Socket:
1
|
s
=
socket.socket(socket.AF_INET, socket.SOCK_STREAM)
|
而后,咱们要绑定监听的地址和端口。服务器可能有多块网卡,能够绑定到某一块网卡的IP地址上,也能够用0.0.0.0
绑定到全部的网络地址,还能够用127.0.0.1
绑定到本机地址。127.0.0.1
是一个特殊的IP地址,表示本机地址,若是绑定到这个地址,客户端必须同时在本机运行才能链接,也就是说,外部的计算机没法链接进来。
端口号须要预先指定。由于咱们写的这个服务不是标准服务,因此用9999
这个端口号。请注意,小于1024
的端口号必需要有管理员权限才能绑定:
1
2
|
# 监听端口:
s.bind((
'127.0.0.1'
,
9999
))
|
紧接着,调用listen()
方法开始监听端口,传入的参数指定等待链接的最大数量:
1
2
|
s.listen(
5
)
print
(
'Waiting for connection...'
)
|
接下来,服务器程序经过一个永久循环来接受来自客户端的链接,accept()
会等待并返回一个客户端的链接:
1
2
3
4
5
6
|
while
True
:
# 接受一个新链接:
sock, addr
=
s.accept()
# 建立新线程来处理TCP链接:
t
=
threading.Thread(target
=
tcplink, args
=
(sock, addr))
t.start()
|
每一个链接都必须建立新线程(或进程)来处理,不然,单线程在处理链接的过程当中,没法接受其余客户端的链接:
1
2
3
4
5
6
7
8
9
10
11
|
def
tcplink(sock, addr):
print
(
'Accept new connection from %s:%s...'
%
addr)
sock.send(b
'Welcome!'
)
while
True
:
data
=
sock.recv(
1024
)
time.sleep(
1
)
if
not
data
or
data.decode(
'utf-8'
)
=
=
'exit'
:
break
sock.send((
'Hello, %s!'
%
data.decode(
'utf-8'
)).encode(
'utf-8'
))
sock.close()
print
(
'Connection from %s:%s closed.'
%
addr)
|
链接创建后,服务器首先发一条欢迎消息,而后等待客户端数据,并加上Hello
再发送给客户端。若是客户端发送了exit
字符串,就直接关闭链接。
要测试这个服务器程序,咱们还须要编写一个客户端程序:
1
2
3
4
5
6
7
8
9
10
11
|
s
=
socket.socket(socket.AF_INET, socket.SOCK_STREAM)
# 创建链接:
s.connect((
'127.0.0.1'
,
9999
))
# 接收欢迎消息:
print
(s.recv(
1024
).decode(
'utf-8'
))
for
data
in
[b
'Michael'
, b
'Tracy'
, b
'Sarah'
]:
# 发送数据:
s.send(data)
print
(s.recv(
1024
).decode(
'utf-8'
))
s.send(b
'exit'
)
s.close()
|
咱们须要打开两个命令行窗口,一个运行服务器程序,另外一个运行客户端程序,就能够看到效果了:
TCP是创建可靠链接,而且通讯双方均可以以流的形式发送数据。相对TCP,UDP则是面向无链接的协议。
使用UDP协议时,不须要创建链接,只须要知道对方的IP地址和端口号,就能够直接发数据包。可是,能不能到达就不知道了。
虽然用UDP传输数据不可靠,但它的优势是和TCP比,速度快,对于不要求可靠到达的数据,就可使用UDP协议。
咱们来看看如何经过UDP协议传输数据。和TCP相似,使用UDP的通讯双方也分为客户端和服务器。服务器首先须要绑定端口:
1
2
3
|
s
=
socket.socket(socket.AF_INET, socket.SOCK_DGRAM)
# 绑定端口:
s.bind((
'127.0.0.1'
,
9999
))
|
建立Socket时,SOCK_DGRAM
指定了这个Socket的类型是UDP。绑定端口和TCP同样,可是不须要调用listen()
方法,而是直接接收来自任何客户端的数据:
1
2
3
4
5
6
|
print
'Bind UDP on 9999...'
while
True
:
# 接收数据:
data, addr
=
s.recvfrom(
1024
)
print
'Received from %s:%s.'
%
addr
s.sendto(
'Hello, %s!'
%
data, addr)
|
recvfrom()
方法返回数据和客户端的地址与端口,这样,服务器收到数据后,直接调用sendto()
就能够把数据用UDP发给客户端。
注意这里省掉了多线程,由于这个例子很简单。
客户端使用UDP时,首先仍然建立基于UDP的Socket,而后,不须要调用connect()
,直接经过sendto()
给服务器发数据:
1
2
3
4
5
6
7
|
s
=
socket.socket(socket.AF_INET, socket.SOCK_DGRAM)
for
data
in
[
'Michael'
,
'Tracy'
,
'Sarah'
]:
# 发送数据:
s.sendto(data, (
'127.0.0.1'
,
9999
))
# 接收数据:
print
s.recv(
1024
)
s.close()
|
从服务器接收数据仍然调用recv()
方法。
UDP的使用与TCP相似,可是不须要创建链接。此外,服务器绑定UDP端口和TCP端口互不冲突,也就是说,UDP的9999端口与TCP的9999端口能够各自绑定。
Python 提供了两个级别访问的网络服务。:
函数 | 描述 |
---|---|
服务器端套接字 | |
s.bind() | 绑定地址(host,port)到套接字, 在AF_INET下,以元组(host,port)的形式表示地址。 |
s.listen() | 开始TCP监听。backlog指定在拒绝链接以前,操做系统能够挂起的最大链接数量。该值至少为1,大部分应用程序设为5就能够了。 |
s.accept() | 被动接受TCP客户端链接,(阻塞式)等待链接的到来 |
客户端套接字 | |
s.connect() | 主动初始化TCP服务器链接,。通常address的格式为元组(hostname,port),若是链接出错,返回socket.error错误。 |
s.connect_ex() | connect()函数的扩展版本,出错时返回出错码,而不是抛出异常 |
公共用途的套接字函数 | |
s.recv() | 接收TCP数据,数据以字符串形式返回,bufsize指定要接收的最大数据量。flag提供有关消息的其余信息,一般能够忽略。 |
s.send() | 发送TCP数据,将string中的数据发送到链接的套接字。返回值是要发送的字节数量,该数量可能小于string的字节大小。 |
s.sendall() | 完整发送TCP数据,完整发送TCP数据。将string中的数据发送到链接的套接字,但在返回以前会尝试发送全部数据。成功返回None,失败则抛出异常。 |
s.recvform() | 接收UDP数据,与recv()相似,但返回值是(data,address)。其中data是包含接收数据的字符串,address是发送数据的套接字地址。 |
s.sendto() | 发送UDP数据,将数据发送到套接字,address是形式为(ipaddr,port)的元组,指定远程地址。返回值是发送的字节数。 |
s.close() | 关闭套接字 |
s.getpeername() | 返回链接套接字的远程地址。返回值一般是元组(ipaddr,port)。 |
s.getsockname() | 返回套接字本身的地址。一般是一个元组(ipaddr,port) |
s.setsockopt(level,optname,value) | 设置给定套接字选项的值。 |
s.getsockopt(level,optname[.buflen]) | 返回套接字选项的值。 |
s.settimeout(timeout) | 设置套接字操做的超时期,timeout是一个浮点数,单位是秒。值为None表示没有超时期。通常,超时期应该在刚建立套接字时设置,由于它们可能用于链接的操做(如connect()) |
s.gettimeout() | 返回当前超时期的值,单位是秒,若是没有设置超时期,则返回None。 |
s.fileno() | 返回套接字的文件描述符。 |
s.setblocking(flag) | 若是flag为0,则将套接字设为非阻塞模式,不然将套接字设为阻塞模式(默认值)。非阻塞模式下,若是调用recv()没有发现任何数据,或send()调用没法当即发送数据,那么将引发socket.error异常。 |
s.makefile() | 建立一个与该套接字相关连的文件 |
server端:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
|
#!/usr/bin/env python
# -*- coding:utf-8 -*-
import
socket
ip_port
=
(
'127.0.0.1'
,
9999
)
sk
=
socket.socket()
sk.bind(ip_port)
sk.listen(
5
)
while
True
:
print
'server waiting...'
conn,addr
=
sk.accept()
client_data
=
conn.recv(
1024
)
print
client_data
conn.sendall(
'不要回答,不要回答,不要回答'
)
conn.close()
socket server
|
client:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
|
#!/usr/bin/env python
# -*- coding:utf-8 -*-
import
socket
ip_port
=
(
'127.0.0.1'
,
9999
)
sk
=
socket.socket()
sk.connect(ip_port)
sk.sendall(
'请求占领地球'
)
server_reply
=
sk.recv(
1024
)
print
server_reply
sk.close()
socket client
|
WEB服务应用:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
|
#!/usr/bin/env python
#coding:utf-8
import
socket
def
handle_request(client):
buf
=
client.recv(
1024
)
client.send(
"HTTP/1.1 200 OK\r\n\r\n"
)
client.send(
"Hello, World"
)
def
main():
sock
=
socket.socket(socket.AF_INET, socket.SOCK_STREAM)
sock.bind((
'localhost'
,
8080
))
sock.listen(
5
)
while
True
:
connection, address
=
sock.accept()
handle_request(connection)
connection.close()
if
__name__
=
=
'__main__'
:
main()
|