Python Day 28 网络编程 (socket远程命令执行, tcp黏包现象,以及struck模块的使用 )

时间 2019-11-13

标签 python day 网络编程 socket 远程命令执行 tcp 现象以及 struck 模块使用栏目 Python 繁體版

原文原文链接

Python Day 28 网络编程 (socket远程命令执行, tcp黏包现象,以及struck模块的使用 )

subprocess模块

res=subprocess.Popen(cmd, #字符串命令
shell=True, #使用系统命令
stderr=subprocess.PIPE, #错误输出
stdout=subprocess.PIPE) #标准输出

的结果的编码是以当前所在的系统为准的，若是是windows，那么res.stdout.read()读出的就是GBK编码的，在接收端须要用GBK解码
且只能从管道里读一次结果,且tcp是不能传输空内容的,pycharm或cmd有处理过程,没法看到现象,直接使用解释器执行会报错.

View Code

　　使用subprocess远程执行命令算法

import subprocess
import socket


sk = socket.socket()
sk.bind(('127.0.0.1',8091))
sk.listen(5)

while True:
    conn,addr = sk.accept()
    while True:
        cmd = conn.recv(1024).decode('utf-8')
        r = subprocess.Popen(cmd, shell=True, stdout=subprocess.PIPE, stderr=subprocess.PIPE)
        stdout = r.stdout.read()
        stderr = r.stderr.read()  
    if stdout: #windows gbk编码,client直接使用gbk解码
        conn.send(stdout)
    elif stderr:   
        conn.send(stderr)

    conn.close()

sk.close()

server

import socket

sk = socket.socket()
sk.connect(('127.0.0.1',8091))

while True:
    cmd =input('请输入命令:')
    sk.send(cmd.encode('utf-8'))
    # ret = sk.recv(1024).decode('utf-8')
    ret = sk.recv(1024).decode('gbk')
    print(ret)

sk.close()

client

黏包

同时执行多条命令以后，获得的结果极可能只有一部分，在执行其余命令的时候又接收到以前执行的另一部分结果，这种显现就是黏包。shell

注意：只有TCP有粘包现象，UDP永远不会粘包编程

黏包成因

TCP协议中的数据传递

　　tcp协议的拆包机制json

当发送端缓冲区的长度大于网卡的MTU时，tcp会将此次发送的数据拆成几个数据包发送出去。 
MTU是Maximum Transmission Unit的缩写。意思是网络上传送的最大数据包。MTU的单位是字节。 大部分网络设备的MTU都是1500。若是本机的MTU比网关的MTU大，大的数据包就会被拆开来传送，这样会产生不少数据包碎片，增长丢包率，下降网络速度。

View Code

面向流的通讯特色和Nagle算法

TCP（transport control protocol，传输控制协议）是面向链接的，面向流的，提供高可靠性服务。
收发两端（客户端和服务器端）都要有一一成对的socket，所以，发送端为了将多个发往接收端的包，更有效的发到对方，使用了优化方法（Nagle算法），将屡次间隔较小且数据量小的数据，合并成一个大的数据块，而后进行封包。
这样，接收端，就难于分辨出来了，必须提供科学的拆包机制。 即面向流的通讯是无消息保护边界的。 
对于空消息：tcp是基于数据流的，因而收发的消息不能为空，这就须要在客户端和服务端都添加空消息的处理机制，防止程序卡住，而udp是基于数据报的，即使是你输入的是空内容（直接回车），也能够被发送，udp协议会帮你封装上消息头发送过去。 
可靠黏包的tcp协议：tcp的协议数据不会丢，没有收完包，下次接收，会继续上次继续接收，己端老是在收到ack时才会清除缓冲区内容。数据是可靠的，可是会粘包。

View Code

发送端能够是一K一K地发送数据，而接收端的应用程序能够两K两K地提走数据，固然也有可能一次提走3K或6K数据，或者一次只提走几个字节的数据。
也就是说，应用程序所看到的数据是一个总体，或说是一个流（stream），一条消息有多少字节对应用程序是不可见的，所以TCP协议是面向流的协议，这也是容易出现粘包问题的缘由。
而UDP是面向消息的协议，每一个UDP段都是一条消息，应用程序必须以消息为单位提取数据，不能一次提取任意字节的数据，这一点和TCP是很不一样的。
怎样定义消息呢？能够认为对方一次性write/send的数据为一个消息，须要明白的是当对方send一条信息的时候，不管底层怎样分段分片，TCP协议层会把构成整条消息的数据段排序完成后才呈如今内核缓冲区。

View Code

例如基于tcp的套接字客户端往服务端上传文件，发送时文件内容是按照一段一段的字节流发送的，在接收方看了，根本不知道该文件的字节流从何处开始，在何处结束windows

此外，发送方引发的粘包是由TCP协议自己形成的，TCP为提升传输效率，发送方每每要收集到足够多的数据后才发送一个TCP段。若连续几回须要send的数据都不多，一般TCP会根据优化算法把这些数据合成一个TCP段后一次发送出去，这样接收方就收到了粘包数据。缓存

UDP不会发生黏包

UDP（user datagram protocol，用户数据报协议）是无链接的，面向消息的，提供高效率服务。 
不会使用块的合并优化算法，, 因为UDP支持的是一对多的模式，因此接收端的skbuff(套接字缓冲区）采用了链式结构来记录每个到达的UDP包，在每一个UDP包中就有了消息头（消息来源地址，端口等信息），这样，对于接收端来讲，就容易进行区分处理了。 即面向消息的通讯是有消息保护边界的。 
对于空消息：tcp是基于数据流的，因而收发的消息不能为空，这就须要在客户端和服务端都添加空消息的处理机制，防止程序卡住，而udp是基于数据报的，即使是你输入的是空内容（直接回车），也能够被发送，udp协议会帮你封装上消息头发送过去。 
不可靠不黏包的udp协议：udp的recvfrom是阻塞的，一个recvfrom(x)必须对惟一一个sendinto(y),收完了x个字节的数据就算完成,如果y;x数据就丢失，这意味着udp根本不会粘包，可是会丢数据，不可靠。

View Code

用UDP协议发送时，用sendto函数最大能发送数据的长度为：65535- IP头(20) – UDP头(8)＝65507字节。用sendto函数发送数据时，若是发送数据长度大于该值，则函数会返回错误。（丢弃这个包，不进行发送）服务器

用TCP协议发送时，因为TCP是数据流协议，所以不存在包大小的限制（暂不考虑缓冲区的大小），这是指在用send函数时，数据长度参数不受限制。而实际上，所指定的这段数据并不必定会一次性发送出去，若是这段数据比较长，会被分段发送，若是比较短，可能会等待和下一次数据一块儿发送。网络

会发生黏包的两种状况

　　状况一发送方的缓存机制数据结构

发送端须要等缓冲区满才发送出去，形成粘包（发送数据时间间隔很短，数据了很小，会合到一块儿，产生粘包）socket

#_*_coding:utf-8_*_
from socket import *
ip_port=('127.0.0.1',8080)

tcp_socket_server=socket(AF_INET,SOCK_STREAM)
tcp_socket_server.bind(ip_port)
tcp_socket_server.listen(5)


conn,addr=tcp_socket_server.accept()


data1=conn.recv(10)
data2=conn.recv(10)

print('----->',data1.decode('utf-8'))
print('----->',data2.decode('utf-8'))

conn.close()

服务端

View Code

#_*_coding:utf-8_*_
import socket
BUFSIZE=1024
ip_port=('127.0.0.1',8080)

s=socket.socket(socket.AF_INET,socket.SOCK_STREAM)
res=s.connect_ex(ip_port)


s.send('hello'.encode('utf-8'))
s.send('egg'.encode('utf-8'))

客户端

View Code

　　状况二接收方的缓存机制

接收方不及时接收缓冲区的包，形成多个包接收（客户端发送了一段数据，服务端只收了一小部分，服务端下次再收的时候仍是从缓冲区拿上次遗留的数据，产生粘包）

#_*_coding:utf-8_*_
from socket import *
ip_port=('127.0.0.1',8080)

tcp_socket_server=socket(AF_INET,SOCK_STREAM)
tcp_socket_server.bind(ip_port)
tcp_socket_server.listen(5)


conn,addr=tcp_socket_server.accept()


data1=conn.recv(2) #一次没有收完整
data2=conn.recv(10)#下次收的时候,会先取旧的数据,而后取新的

print('----->',data1.decode('utf-8'))
print('----->',data2.decode('utf-8'))

conn.close()

服务端

View Code

#_*_coding:utf-8_*_
import socket
BUFSIZE=1024
ip_port=('127.0.0.1',8080)

s=socket.socket(socket.AF_INET,socket.SOCK_STREAM)
res=s.connect_ex(ip_port)


s.send('hello egg'.encode('utf-8'))

客户端

View Code

总结

黏包现象只发生在tcp协议中：

1.从表面上看，黏包问题主要是由于发送方和接收方的缓存机制、tcp协议面向流通讯的特色。

2.实际上，主要仍是由于接收方不知道消息之间的界限，不知道一次性提取多少字节的数据所形成的

黏包的解决方案

解决方案一

问题的根源在于，接收端不知道发送端将要传送的字节流的长度，因此解决粘包的方法就是围绕，如何让发送端在发送数据前，把本身将要发送的字节流总大小让接收端知晓，而后接收端来一个死循环接收完全部数据。

FTP进化史:

思路 : https://www.processon.com/diagraming/5b17c677e4b00490ac8b3a01

小文件版: upload举例: 经过success控制,防止黏包

#小文件版
import socket
import json
import os

sk = socket.socket()
sk.bind(('127.0.0.1',8091))
sk.listen(5)

while True:
    sock,addr = sk.accept()
    while True:
        msg_key_dict_str = sock.recv(1024).decode('utf-8')
        msg_key_dict = json.loads(msg_key_dict_str)  #{'file_opt':file_opt,'file_name':file_name}
        file_opt = msg_key_dict['file_opt']
        if file_opt == 'upload':
            file_name = msg_key_dict['file_name']
            file_path = os.path.join(r'D:\Learn\Python全栈开发\Day28\\upload',file_name)
            sock.send('上传通道创建成功...'.encode('utf-8'))
            with open(file_path,'wb') as f:
                file_conn = sock.recv(1024)
                f.write(file_conn)
            sock.send('{}上传成功'.format(file_name).encode('utf-8'))
        elif  file_opt == 'download':
            pass

server

#小文件版
import socket
import os
import json

sk = socket.socket()
sk.connect(('127.0.0.1',8091))

options = {'1':'upload','2':'download'}

while True:
    for id,option in options.items():
        print(id,':',option)
    user_choice = input('请您选择操做:')

    if user_choice == '1': #上传
        file_opt = 'upload'
        file_path = input('请输入要上传的文件路径:')
        file_name = os.path.basename(file_path)
        upload_dict = {'file_opt':file_opt,'file_name':file_name}
        upload_dict_str = json.dumps(upload_dict)
        sk.send(upload_dict_str.encode('utf-8'))
        upload_connect_ret = sk.recv(1024).decode('utf-8')
        print(upload_connect_ret)
        with open(file_path, 'rb') as f:
            file_conn = f.read()
            sk.send(file_conn)
        upload_ret = sk.recv(1024).decode('utf-8')
        print(upload_ret)
    elif user_choice == '2': #下载
        pass

client

存在问题: recv只能接收1024, 超过大小接收不到.

支持大文件: upload举例:经过success控制,防止黏包,经过对文件读取大小控制,接收完整的大文件.

#支持大文件经过success控制,防止黏包
import socket
import json
import os

sk = socket.socket()
sk.bind(('127.0.0.1',8091))
sk.listen(5)

while True:
    sock,addr = sk.accept()
    while True:
        msg_key_dict_str = sock.recv(1024).decode('utf-8')
        msg_key_dict = json.loads(msg_key_dict_str)  #{'file_opt':file_opt,'file_name':file_name,'file_size':fiel_size}
        file_opt = msg_key_dict['file_opt']
        if file_opt == 'upload':
            file_name = msg_key_dict['file_name']
            file_path = os.path.join(r'D:\Learn\Python全栈开发\Day28\upload',file_name)
            file_size = msg_key_dict['file_size']
            sock.send('上传通道创建成功...'.encode('utf-8'))
            with open(file_path,'wb') as f:
                while file_size:
                    file_conn = sock.recv(1024)
                    f.write(file_conn)
                    file_size-=len(file_conn)
            sock.send('{}上传成功'.format(file_name).encode('utf-8'))
        elif  file_opt == 'download':
            pass

server

#小文件版
import socket
import os
import json

sk = socket.socket()
sk.connect(('127.0.0.1',8091))

options = {'1':'upload','2':'download'}

while True:
    for id,option in options.items():
        print(id,':',option)
    user_choice = input('请您选择操做:')

    if user_choice == '1': #上传
        file_opt = 'upload'
        file_path = input('请输入要上传的文件路径:')
        file_name = os.path.basename(file_path)
        file_size = os.path.getsize(file_path)
        upload_dict = {'file_opt':file_opt,'file_name':file_name,'file_size':file_size}
        upload_dict_str = json.dumps(upload_dict)
        sk.send(upload_dict_str.encode('utf-8'))
        upload_connect_ret = sk.recv(1024).decode('utf-8')
        print(upload_connect_ret)
        with open(file_path, 'rb') as f:
            while file_size:
                file_conn = f.read(1024)
                sk.send(file_conn)
                file_size-=len(file_conn)
        upload_ret = sk.recv(1024).decode('utf-8')
        print(upload_ret)
    elif user_choice == '2': #下载
        pass

client

在网络传输过程当中send是很快的,使用recv会下降效率.

解决方案进阶struct

#struct防止黏包
import socket
import json
import os
import struct

sk = socket.socket()
sk.bind(('127.0.0.1',8091))
sk.listen(5)

while True:
    sock,addr = sk.accept()
    while True:
        msg_key_len_struct = sock.recv(4) #bytes直接解包
        msg_key_len = struct.unpack('i',msg_key_len_struct)[0]
        msg_key_dict_str = sock.recv(msg_key_len).decode('utf-8')
        msg_key_dict = json.loads(msg_key_dict_str)  #{'file_opt':file_opt,'file_name':file_name,'file_size':fiel_size}
        file_opt = msg_key_dict['file_opt']
        if file_opt == 'upload':
            file_name = msg_key_dict['file_name']
            file_path = os.path.join(r'D:\Learn\Python全栈开发\Day28\\upload',file_name)
            file_size = msg_key_dict['file_size']
            with open(file_path,'wb') as f:
                while file_size:
                    file_conn = sock.recv(1024)
                    f.write(file_conn)
                    file_size-=len(file_conn)
            sock.send('{}上传成功'.format(file_name).encode('utf-8'))
        elif  file_opt == 'download':
            pass

server

#struct防止黏包
import socket
import os
import json
import struct

sk = socket.socket()
sk.connect(('127.0.0.1',8091))

options = {'1':'upload','2':'download'}

while True:
    for id,option in options.items():
        print(id,':',option)
    user_choice = input('请您选择操做:')

    if user_choice == '1': #上传
        file_opt = 'upload'
        file_path = input('请输入要上传的文件路径:')
        file_name = os.path.basename(file_path)
        file_size = os.path.getsize(file_path)
        upload_dict = {'file_opt':file_opt,'file_name':file_name,'file_size':file_size}
        upload_dict_str = json.dumps(upload_dict)
        upload_dict_struct = struct.pack('i',len(upload_dict_str)) #bytes类型
        sk.send(upload_dict_struct)
        sk.send(upload_dict_str.encode('utf-8'))
        with open(file_path, 'rb') as f:
            while file_size:
                file_conn = f.read(1024)
                sk.send(file_conn)
                file_size-=len(file_conn)
        upload_ret = sk.recv(1024).decode('utf-8')
        print(upload_ret)
    elif user_choice == '2': #下载
        pass

client

刚刚的方法，问题在于咱们在发送字典后client经过进行一次接收进行下一次内容传输,防止黏包

咱们能够借助一个模块，这个模块能够把要发送的数据长度转换成固定长度的字节。这样客户端每次接收消息以前只要先接受这个固定长度字节的内容看一看接下来要接收的信息大小，那么最终接受的数据只要达到这个值就中止，就能恰好很少很多的接收完整的数据了。

struct模块

该模块能够把一个类型，如数字，转成固定长度的bytes

head_len_bytes = struct.pack('i',999999999) #数字最大为九位数能够转换为4个字节的bytes

x=struct.unpack('i',head_len_bytes)[0]   #提取报头的长度, unpack后获得是元组 (999999999,)

使用struct解决黏包

借助struct模块，咱们知道长度数字能够被转换成一个标准大小的4字节数字。所以能够利用这个特色来预先发送数据长度。

完整版 ftp上传下载功能

#特别low的完整版本
import socket
import hashlib
import os
import json
import struct

def md5file(file_path):
    md5_obj = hashlib.md5()
    with open(file_path, 'rb') as f:
        for i in f:
            md5_obj.update(i)
    return md5_obj.hexdigest()

sk = socket.socket()
sk.bind(('127.0.0.1',8091))
sk.listen(5)

while True:
    conn,addr = sk.accept()
    while True:
        msg_len0 = conn.recv(4)
        msg_len1 = struct.unpack('i',msg_len0)[0]
        msg_key_str_r = conn.recv(msg_len1).decode('utf-8')
        msg_key_dict_r = json.loads(msg_key_str_r)
        func = msg_key_dict_r['opt']

        if func == 'upload':
            filename = msg_key_dict_r['filename']
            newfile = os.path.join(r'D:\Learn\Python全栈开发\Day28\\upload', filename)
            file_size = msg_key_dict_r['file_size']
            file_md5 = msg_key_dict_r['file_md5']
            with open(newfile, mode='wb') as f:
                while file_size:
                    msg_conn = conn.recv(1024)
                    file_size-= len(msg_conn)
                    f.write(msg_conn)

            if md5file(newfile) == file_md5:
                conn.send('{}上传成功!'.format(newfile).encode('utf-8'))
                print('{}上传成功!'.format(newfile))
            else:
                conn.send('{}上传md5验证失败!'.format(newfile).encode('utf-8'))
                print('{}上传md5验证失败!'.format(newfile))

        elif func == 'download':
            share_path = r'D:\Learn\Python全栈开发\Day28'
            share_dict = {}
            sharelist = {}
            id = 1
            for root, dirnames, filenames in os.walk(share_path):
                for sharefile in filenames:
                    abspath = os.path.join(root, sharefile)
                    share_dict[id] = [sharefile, abspath]
                    sharelist[id] = sharefile
                    id += 1
            sharelist_str = json.dumps(sharelist)
            conn.send(sharelist_str.encode('utf-8'))

            share_id = int(conn.recv(1024).decode('utf-8'))
            file_path = share_dict[share_id][1]

            file_name = os.path.basename(file_path)
            file_size = os.path.getsize(file_path)
            file_md5 = md5file(file_path)
            msg_key_s = {'opt': 'upload', 'filename': file_name, 'file_size': file_size, 'file_md5': file_md5}
            msg_key_str_s = json.dumps(msg_key_s)
            msg_size = struct.pack('i', len(msg_key_str_s))
            conn.send(msg_size)
            conn.send(msg_key_str_s.encode('utf-8'))
            with open(file_path, mode='rb') as f:
                while file_size:
                    file_conn = f.read(1024)
                    file_size -= len(file_conn)
                    conn.send(file_conn)
            print('{}被{}下载'.format(file_path,addr))

#特别low的完整版本 server

#特别low的版本
import socket
import os
import hashlib
import json
import struct

def md5file(file_path):
    md5_obj = hashlib.md5()
    with open(file_path, 'rb') as f:
        for i in f:
            md5_obj.update(i)
    return md5_obj.hexdigest()

sk = socket.socket()
sk.connect(('127.0.0.1',8091))

opt_dict = {'1':'upload','2':'download'}

while True:
    for k,v in opt_dict.items():
        print(k,":",v)
    user_choice = input('请输入你的选择:')

    if user_choice == '1':
        file_path = input('请输入文件路径:')
        file_name = os.path.basename(file_path)
        file_size = os.path.getsize(file_path)
        file_md5 = md5file(file_path)
        msg_key = {'opt':'upload','filename':file_name,'file_size':file_size,'file_md5':file_md5}
        msg_key_str = json.dumps(msg_key)
        msg_size = struct.pack('i',len(msg_key_str))
        sk.send(msg_size)
        sk.send(msg_key_str.encode('utf-8'))
        with open(file_path,mode='rb') as f:
            while file_size:
                conn = f.read(1024)
                file_size -= len(conn)
                sk.send(conn)
        ret = sk.recv(1024).decode('utf-8')
        print(ret)
    elif user_choice == '2':
        msg_key = {'opt':'download',}
        msg_key_str = json.dumps(msg_key)
        msg_size = struct.pack('i', len(msg_key_str))
        sk.send(msg_size)
        sk.send(msg_key_str.encode('utf-8'))
        downlist_str = sk.recv(1024).decode('utf-8')
        downlist_dict = json.loads(downlist_str)
        for downid,downname in downlist_dict.items():
            print(downid,':',downname)
        user_choice = input('请输入要下载的文件id:')
        if user_choice in downlist_dict:
            sk.send(user_choice.encode('utf-8'))
            # 开始创建接收
            msg_len0 = sk.recv(4)
            msg_len1 = struct.unpack('i', msg_len0)[0]
            msg_key_str = sk.recv(msg_len1).decode('utf-8')
            msg_key_dict = json.loads(msg_key_str)
            print(msg_key_dict)
            filename = msg_key_dict['filename']
            newfile = os.path.join(r'D:\Learn\Python全栈开发\Day28\download', filename)
            file_size = msg_key_dict['file_size']
            file_md5 = msg_key_dict['file_md5']
            with open(newfile, mode='wb') as f:
                while file_size:
                    msg_conn = sk.recv(1024)
                    file_size-= len(msg_conn)
                    f.write(msg_conn)

            if md5file(newfile) == file_md5:
                print('{}下载成功!'.format(newfile))
            else:
                print('{}下载文件md5验证失败!'.format(newfile))
        else:
            print('输入有误,从新选择功能')
    else:
        print('输入有误,从新选择功能')

#特别low的版本 client

优化版一: