定义python
socket一般也称做套接字
,用于描述IP地址和端口,是一个通讯链的句柄,应用程序一般经过套接字
向网络发出请求或者应答网络请求。shell
socket起源于Unix,而Unix/Linux基本哲学之一就是“一切皆文件”,对于文件用【打开】【读写】【关闭】模式来操做。socket就是该模式的一个实现,socket便是一种特殊的文件,一些socket函数就是对其进行的操做(读/写IO、打开、关闭)编程
socket和file的区别:服务器
file模块是针对某个指定文件进行【打开】【读写】【关闭】网络
socket模块是针对 服务器端 和 客户端Socket 进行【打开】【读写】【关闭】多线程
python相关并发
Python 提供了两个基本的 socket 模块。py2位大写,py3所有小写
第一个是 Socket,它提供了标准的 BSD Sockets API。
第二个是 SocketServer, 它提供了服务器中心类,能够简化网络服务器的开发ssh
流程图:socket
说明:tcp
服务端
1.服务端须要导入socket模块,并建立套接字(实例化为一个对象)
import socket s = socket.socket()
2.绑定套接字s到本地IP和端口
ip_port = ('127.0.0.1',8080) s.bind(ip_port)
3.监听链接
s.listen(0) PS:0表示缓冲区可挂起的链接数量 0表示不限制,1表示 可挂起一个,那么意思就是链接一个、挂起一个,第三个再链接的话,就没法链接,会超时
4.接收客户端创建链接的请求
conn,addr = s.accept() PS:conn为一个客户端和服务器创建的链接,addr为客户端ip
5.接收客户端的消息,并作相应处理
recv_data = conn.recv(1024) send_data = recv_data.upper() #将客户端发送的内容转换为大写,注意。python3里面客户端发送的都是二进制数据,python2里能够发送字符串
6.给客户端回消息
conn.send(send_data)
7.关闭链接
conn.close()
客户端
1.建立套接字
import socket s = socket.socket()
2.链接服务端
ip_port = ('127.0.0.1',8080) s.connect(ip_port)
3.给服务端发送消息
send_data = input('请输入: ') s.send(send_data.encode()) #注意py3发送的数据须要转换为二进制,不能直接发送字符串
4.接收服务端消息,并打印
recv_data = s.recv(1024)print(recv_data.decode()) #服务端回应的是二进制,因此须要转换为字符串
5.关闭链接
s.close()
以上就是一个简单的客户端和服务端socket链接,并发送消息,读消息,回消息的过程,初学者可能一会儿就懵了,请看下面的类比,
类比
经过上面的服务端和客户端的一个简单的交互,能够将其比做打电话,小明是服务端,小红是客户端
小红:你好 此时小红是发消息,小明此时处于收消息的状态
小明:你好 小明收到小红发的你好消息,作出回应,此时小明开始给小红发消息,小红处于收消息状态
最后小红收到了小明的消息,小明此时已经挂断电话,最后这次通讯已断
注意这次通讯只是一个简单的交互过程,交互完成以后,则先完成方会主动关系链接。若是要持续通讯,请继续往下看
小明
小红
小红和小明交互
小红在和小明打电话前得有个通讯工具等等,因此须要找到一部手机,类同建立一个套接字
小红须要知道小明的电话号码,并拨打电话,此步骤就等于客户端链接服务端
小明为了接收电话,他首先得买个手机,此步骤类同建立socket套接字
小明有了手机,须要办一张电话卡,此步骤类同绑定套接字搭配监听的ip和端口
小明有了手机和电话卡,则手机开机,处于待机状态 此步骤类同监听客户端链接
当小红打电话进来以后,须要接电话,此类同于接收客户端创建链接的请求
服务端
import socket ip_port = ('127.0.0.1',8080) s = socket.socket() s.bind(ip_port) s.listen(0)while True: #这次while循环用于客户端断开链接以后,从新循环创建新链接 conn,addr = s.accept() while True: #此while循环用于客户端和服务器持续交互 recv_data = conn.recv(1024) if not recv_data: break #判断消息是否为空,当消息为空时,跳出循环,若是不判断的话,客户端那边若是主动断开链接,将会致使服务端处于一个不停的收消息的死循环中,由于链接已断开,处于非阻塞状态 send_data = recv_data.upper() #将客户消息转换为大写 conn.send(send_data) conn.close()
客户端:
import socket s = socket.socket() ip_port = ('127.0.0.1',8080) s.connect(ip_port)while True: send_data = input('请输入: ') if send_data == 'exit':break elif send_data == '':continue s.send(send_data.encode()) recv_data = s.recv(1024) print(recv_data.decode()) s.close()
运行服务端和客户端,效果以下:
请输入: hello HELLO 请输入: Jeck JECK 请输入: 123 123请输入: 请输入: exit Process finished with exit code 0
socket 类型
socket.socket(socket.AF_INET,socket.SOCK_STREAM,0)
参数一:地址簇
socket.AF_INET IPv4(默认)
socket.AF_INET6 IPv6
socket.AF_UNIX 只可以用于单一的Unix系统进程间通讯
参数二:类型
socket.SOCK_STREAM 流式socket , for TCP (默认)
socket.SOCK_DGRAM 数据报式socket , for UDP
socket.SOCK_RAW 原始套接字,普通的套接字没法处理ICMP、IGMP等网络报文,而SOCK_RAW能够;其次,SOCK_RAW也能够处理特殊的IPv4报文;此外,利用原始套接字,能够经过IP_HDRINCL套接字选项由用户构造IP头。
socket.SOCK_RDM 是一种可靠的UDP形式,即保证交付数据报但不保证顺序。SOCK_RAM用来提供对原始协议的低级访问,在须要执行某些特殊操做时使用,如发送ICMP报文。SOCK_RAM一般仅限于高级用户或管理员运行的程序使用。
socket.SOCK_SEQPACKET 可靠的连续数据包服务
参数三:协议
0 (默认)与特定的地址家族相关的协议,若是是 0 ,则系统就会根据地址格式和套接类别,自动选择一个合适的协议
socket方法
将套接字绑定到地址。address地址的格式取决于地址族。在AF_INET下,以元组(host,port)的形式表示地址。
是否阻塞(默认True),若是设置False,那么accept和recv时一旦无数据,则报错。
接受链接并返回(conn,address),其中conn是新的套接字对象,能够用来接收和发送数据。address是链接客户端的地址。
接收TCP 客户的链接(阻塞式)等待链接的到来
链接到address处的套接字。通常,address的格式为元组(hostname,port),若是链接出错,返回socket.error错误。
同上,只不过会有返回值,链接成功时返回 0 ,链接失败时候返回编码,例如:10061
关闭套接字
接受套接字的数据。数据以字符串形式返回,bufsize指定最多能够接收的数量。flag提供有关消息的其余信息,一般能够忽略
与recv()相似,但返回值是(data,address)。其中data是包含接收数据的字符串,address是发送数据的套接字地址。
将string中的数据发送到链接的套接字。返回值是要发送的字节数量,该数量可能小于string的字节大小。即:可能未将指定内容所有发送。
将string中的数据发送到链接的套接字,但在返回以前会尝试发送全部数据。成功返回None,失败则抛出异常。内部经过递归调用send,将全部内容发送出去。
将数据发送到套接字,address是形式为(ipaddr,port)的元组,指定远程地址。返回值是发送的字节数。该函数主要用于UDP协议。
设置套接字操做的超时期,timeout是一个浮点数,单位是秒。值为None表示没有超时期。通常,超时期应该在刚建立套接字时设置,由于它们可能用于链接的操做(如 client 链接最多等待5s )
返回链接套接字的远程地址。返回值一般是元组(ipaddr,port)。
返回套接字本身的地址。一般是一个元组(ipaddr,port)
sk.fileno()
sk.getsockname()
sk.getpeername()
sk.settimeout(timeout)
sk.sendto(string[,flag],address)
sk.sendall(string[,flag])
sk.send(string[,flag])
sk.recvfrom(bufsize[.flag])
sk.recv(bufsize[,flag])
sk.close()
sk.connect_ex(address)
sk.connect(address)
sk.accept()
sk.listen(backlog)
开始监听传入链接。backlog指定在拒绝链接以前,能够挂起的最大链接数量。backlog等于5,表示内核已经接到了链接请求,但服务器尚未调用accept进行处理的链接个数最大为5,这个值不能无限大,由于要在内核中维护链接队列
sk.setblocking(bool)
sk.bind(address)
套接字的文件描述符
案例:模拟ssh
服务端:
import socketimport subprocess ip_port = ('127.0.0.1',8080) s = socket.socket() s.bind(ip_port) s.listen(0)while True: conn,addr = s.accept() while True: try: recv_data = conn.recv(1024) if not recv_data: break p = subprocess.Popen(str(recv_data,encoding='utf-8'),shell=True,stdout=subprocess.PIPE,stderr=subprocess.PIPE) #执行shell命令,并将标准输出和错误输出放到缓冲区 res = p.stdout.read() if not res: send_data = p.stderr.read() else: send_data = res data_size = len(send_data) conn.send(send_data) except Exception: break conn.close()
* 客户端
import socket ip_port = ('127.0.0.1',8080) s = socket.socket() s.connect(ip_port)while True: send_data = input('>>: ') if send_data == 'exit':exit() elif not send_data:continue s.send(bytes(send_data,encoding='utf-8')) recv_data = s.recv(1024) print(recv_data.decode()) s.close()
执行结果:
>>: df -h Filesystem Size Used Avail Use% Mounted on/dev/disk1 112G 51G 62G 45% / >>: netstat -lnt Active Internet connections Proto Recv-Q Send-Q Local Address Foreign Address (state) tcp4 0 0 172.16.23.42.57334 23.83.227.252.8023 ESTABLISHED tcp4 0 0 127.0.0.1.1080 127.0.0.1.57333 ESTABLISHED tcp4 0 0 127.0.0.1.57333 127.0.0.1.1080 ESTABLISHED tcp4 0 0 127.0.0.1.8080 127.0.0.1.57332 ESTABLISHED tcp4 0 0 127.0.0.1.57332 127.0.0.1.8080 ESTABLISHED tcp4 0 0 172.16.23.42.57328 223.252.199.7.80 CLOSE_WAIT tcp4 0 0 172.16.23.42.57269 163.177.72.143.993 ESTABLISHED tcp4 0 0 10.255.0.10.57047 203.130.45.175.9000 ESTABLISHED tcp4 27 0 172.16.23.42.57045 163.177.90.125.993 CLOSE_WAIT tcp4 0 0 172.16.23.42.56988 114.215.186.163.443 ESTABLISHED tcp4 27 0 172.16.23.42.56632 163.177.72.143.993 CLOSE_WAIT tcp4 0 0 10.255.0.10.56374 10.2 >>: route -n0.7.12.22 ESTABLISHED tcp4 27 0 172.16.23.42.56229 163.177.90.125.993 CLOSE_WAIT tcp4 0 0 10.255.0.10.54889 203.130.45.175.9000 ESTABLISHED tcp4 0 0 10.255.0.10.54605 203.130.45.173.6929 ESTABLISHED tcp4 0 0 10.255.0.10.53228 10.20.7.12.22 ESTABLISHED tcp4 0 0 10.255.0.10.53122 203.130.45.175.9000 ESTABLISHED tcp4 0 0 172.16.23.42.52902 42.62.89.250.1194 ESTABLISHED tcp4 0 0 127.0.0.1.1337 127.0.0.1.52901 ESTABLISHED tcp4 0 0 127.0.0.1.52901 127.0.0.1.1337 ESTABLISHED tcp4 0 0 172.16.23.42.52899 17.172.232.10.5223 ESTABLISHED tcp4 0 0 172.16.23.42.52855 17.252.236.157.5223 ESTABLISHED tcp4 0 0 172.16.23.42.52790 223.252.199.6.6003 ESTABLISHED tcp4 0 0 172.16.23.42.50124 223.167.82.210.80 ESTABLISHED tcp4 0 0 172.16.23.42.50026 1
从结果中发现,执行df -h 返回正常结果,执行netstat -lnt返回了一半的结果,继续执行命令,仍然返回的是netstat -lnt的结果,这就发生了粘包现象
粘包解决
所谓粘包现象就是服务端把数据发过来以后,客户端接收时会按必定大小来接收,决定此操做的是s.recv(1024),1024是每次接收的包大小,第一次没有接收完的话,第二次会继续接收原来的数据包,这就是粘包现象,解决办法就是,服务端在发送数据时,现告诉客户端本次数据的大小,而后再发送数据,客户端收到数据大小以后,循环接收数据,知道接收完成再终止这次循环,这样就能够拿到全部的数据,解决了粘包现象
服务端改造:
#!/usr/bin/env python# -*- coding: UTF-8 -*-#pyversion:python3.5#owner:fuzjimport socketimport subprocess ip_port = ('127.0.0.1',8080) s = socket.socket() s.bind(ip_port) s.listen(0)while True: conn,addr = s.accept() while True: try: recv_data = conn.recv(1024) if not recv_data: break p = subprocess.Popen(str(recv_data,encoding='utf-8'),shell=True,stdout=subprocess.PIPE,stderr=subprocess.PIPE) res = p.stdout.read() if not res: send_data = p.stderr.read() else: send_data = res data_size = len(send_data) #计算数据大小 conn.send(bytes(str(data_size),encoding='utf-8')) #发送数据大小 res = conn.recv(1024) #接收客户端状态 conn.send(send_data) #发送数据 except Exception: break conn.close()
* 客户端改造:
import socket ip_port = ('127.0.0.1',8080) s = socket.socket() s.connect(ip_port)while True: send_data = input('>>: ') if send_data == 'exit':exit() elif not send_data:continue s.send(bytes(send_data,encoding='utf-8')) recv_size = 0 data = b'' data_size = str(s.recv(1024),encoding='utf-8') #接收数据大小 s.send(bytes('ok',encoding='utf-8')) #发送此时的状态 while recv_size < int(data_size): #循环接收数据,直到接收完全部数据 recv_data = s.recv(1024) data += recv_data recv_size += len(recv_data) print(str(data,encoding='utf-8')) s.close()
运行结果:发现已经解决上述问题
>>: df -h Filesystem Size Used Avail Use% Mounted on/dev/disk1 112G 51G 62G 45% / >>: netstat -lnt Active Internet connections Proto Recv-Q Send-Q Local Address Foreign Address (state) tcp4 0 0 172.16.23.42.57476 223.252.199.7.80 CLOSE_WAIT tcp4 0 0 127.0.0.1.8080 127.0.0.1.57475 ESTABLISHED tcp4 0 0 127.0.0.1.57475 127.0.0.1.8080 ESTABLISHED tcp4 0 0 172.16.23.42.57474 223.252.199.7.80 LAST_ACK tcp4 0 0 172.16.23.42.57465 23.83.227.252.8023 ESTABLISHED tcp4 0 0 127.0.0.1.1080 127.0.0.1.57464 ESTABLISHED tcp4 0 0 127.0.0.1.57464 127.0.0.1.1080 ESTABLISHED tcp4 0 0 172.16.23.42.57461 23.83.227.252.8023 ESTABLISHED tcp4 0 0 127.0.0.1.1080 127.0.0.1.57460 ESTABLISHED tcp4 0 0 127.0.0.1.57460 127.0.0.1.1080 ESTABLISHED tcp4 0 0 172.16.23.42.57455 163.177.72.143.993 CLOSE_WAIT tcp4 0 0 10.255.0.10.57047 203.130.45.175.9000 ESTABLISHED tcp4 27 0 172.16.23.42.57045 163.177.90.125.993 CLOSE_WAIT tcp4 0 0 172.16.23.42.56988 114.215.186.163.443 ESTABLISHED tcp4 27 0 172.16.23.42.56632 163.177.72.143.993 CLOSE_WAIT tcp4 0 0 10.255.0.10.56374 10.20.7.12.22 ESTABLISHED tcp4 27 0 172.16.23.42.56229 163.177.90.125.993 CLOSE_WAIT tcp4 0 0 10.255.0.10.54889 203.130.45.175.9000 ESTABLISHED tcp4 0 0 10.255.0.10.54605 203.130.45.173.6929 ESTABLISHED tcp4 0 0 10.255.0.10.53228 10.20.7.12.22 ESTABLISHED tcp4 0 0 10.255.0.10.53122 203.130.45.175.9000 ESTABLISHED tcp4 0 0 172.16.23.42.52902 42.62.89.250.1194 ESTABLISHED tcp4 0 0 127.0.0.1.1337 127.0.0.1.52901 ESTABLISHED tcp4 0 0 127.0.0.1.52901 127.0.0.1.1337 ESTABLISHED tcp4 0 0 172.16.23.42.52899 17.172.232.10.5223 ESTABLISHED tcp4 0 0 172.16.23.42.52855 17.252.236.157.5223 ESTABLISHED tcp4 0 0 172.16.23.42.52790 223.252.199.6.6003 ESTABLISHED tcp4 0 0 172.16.23.42.50124 223.167.82.210.80 ESTABLISHED tcp4 0 0 172.16.23.42.50026 123.151.10.187.14000 ESTABLISHED tcp4 0 0 172.16.23.42.49612 163.177.90.125.993 ESTABLISHED tcp4 0 0 127.0.0.1.49871 127.0.0.1.49375 ESTABLISHED tcp4 0 0 127.0.0.1.49375 127.0.0.1.49871 ESTABLISHED tcp4 0 0 127.0.0.1.49871 127.0.0.1.49370 ESTABLISHED tcp4 0 0 127.0.0.1.49370 127.0.0.1.49871 ESTABLISHED tcp4 0 0 192.168.123.164.49282 112.90.83.61.443 ESTABLISHED
上述ssh模拟客户端只能支持必定数量的客户端,受s.listen(0)参数限制。下面能够实现支持多客户端操做
SocketServer内部使用 IO多路复用 以及 “多线程” 和 “多进程” ,从而实现并发处理多个客户端请求的Socket服务端。即:每一个客户端请求链接到服务器时,Socket服务端都会在服务器是建立一个“线程”或者“进程” 专门负责处理当前客户端的全部请求
ThreadingTCPServer
ThreadingTCPServer实现的Soket服务器内部会为每一个client建立一个 “线程”,该线程用来和客户端进行交互
实现步骤:
1.建立一个类,并继承SocketServer.BaseRequestHandler 的类
2.在新类中须要建立一个handle的方法
3.启动ThreadingTCPServer
代码以下:
import socketserverimport subprocessclass MyServer(socketserver.BaseRequestHandler): #继承 def handle(self): #handle方法。注意此时send和recv时调用的self.request方法 self.request.sendall(bytes('Welcome',encoding='utf-8')) while True: try: recv_data = self.request.recv(1024) if not recv_data: break p = subprocess.Popen(str(recv_data, encoding='utf-8'), shell=True, stdout=subprocess.PIPE,stderr=subprocess.PIPE) res = p.stdout.read() if not res: send_data = p.stderr.read() else: send_data = res if not send_data: send_data = 'no output'.encode() data_size = len(send_data) self.request.send(bytes(str(data_size), encoding='utf-8')) self.request.recv(1024) self.request.send(send_data) except Exception: breakif __name__ == '__main__': server = socketserver.ThreadingTCPServer(('127.0.0.1',8080),MyServer) #启动server server.serve_forever()
PS:SocketServer.BaseRequestHandler类源码:其定义了三个方法:setup(),handle()he finish()
执行顺序为:setup(0-->handle()-->finish()
```
class BaseRequestHandler:def __init__(self, request, client_address, server): self.request = request self.client_address = client_address self.server = server self.setup() try: self.handle() finally: self.finish()def setup(self): passdef handle(self): passdef finish(self): passSocketServer.BaseRequestHandler
```
ThreadingTCPServer源码剖析
内部调用流程
启动服务端程序
执行 TCPServer.__init__ 方法,建立服务端Socket对象并绑定 IP 和 端口
执行 BaseServer.__init__ 方法,将自定义的继承自SocketServer.BaseRequestHandler 的类 MyRequestHandle赋值给 self.RequestHandlerClass
执行 BaseServer.server_forever 方法,While 循环一直监听是否有客户端请求到达 ...
当客户端链接到达服务器
执行 ThreadingMixIn.process_request 方法,建立一个 “线程” 用来处理请求
执行 ThreadingMixIn.process_request_thread 方法
执行 BaseServer.finish_request 方法,执行 self.RequestHandlerClass() 即:执行 自定义 MyRequestHandler 的构造方法(自动调用基类BaseRequestHandler的构造方法,在该构造方法中又会调用 MyRequestHandler的handle方法)