110 python程序中的进程操做-开启多进程

时间  2019-11-20
标签 python 程序 进程 开启 栏目 Python 繁體版
原文   原文链接

以前咱们已经了解了不少进程相关的理论知识，了解进程是什么应该再也不困难了，刚刚咱们已经了解了，运行中的程序就是一个进程。全部的进程都是经过它的父进程来建立的。所以，运行起来的python程序也是一个进程，那么咱们也能够在程序中再建立进程。多个进程能够实现并发效果，也就是说，当咱们的程序中存在多个进程的时候，在某些时候，就会让程序的执行速度变快。以咱们以前所学的知识，并不能实现建立进程这个功能，因此咱们就须要借助python中强大的模块。python

1、multiprocess模块

仔细说来，multiprocess不是一个模块而是python中一个操做、管理进程的包。 之因此叫multi是取自multiple的多功能的意思,在这个包中几乎包含了和进程有关的全部子模块。因为提供的子模块很是多，为了方便你们归类记忆，我将这部分大体分为四个部分：建立进程部分，进程同步部分，进程池部分，进程之间数据共享。linux

2、multiprocess.process模块

process模块是一个建立进程的模块，借助这个模块，就能够完成进程的建立。windows

3、process模块介绍

Process([group [, target [, name [, args [, kwargs]]]]])，由该类实例化获得的对象，表示一个子进程中的任务（还没有启动）安全

强调：网络

  1. 须要使用关键字的方式来指定参数
  2. args指定的为传给target函数的位置参数，是一个元组形式，必须有逗号

参数介绍：并发

  • group参数未使用，值始终为None
  • target表示调用对象，即子进程要执行的任务
  • args表示调用对象的位置参数元组，args=(1,2,'egon',)
  • kwargs表示调用对象的字典，kwargs={'name':'egon','age':18}
  • name为子进程的名称

3.1方法介绍

  • p.start()：启动进程，并调用该子进程中的p.run()
  • p.run()：进程启动时运行的方法，正是它去调用target指定的函数，咱们自定义类的类中必定要实现该方法
  • p.terminate()：强制终止进程p，不会进行任何清理操做，若是p建立了子进程，该子进程就成了僵尸进程，使用该方法须要特别当心这种状况。若是p还保存了一个锁那么也将不会被释放，进而致使死锁
  • p.is_alive()：若是p仍然运行，返回True
  • p.join([timeout])：主线程等待p终止（强调：是主线程处于等的状态，而p是处于运行的状态）。timeout是可选的超时时间，须要强调的是，p.join只能join住start开启的进程，而不能join住run开启的进程

3.2属性介绍

  • p.daemon：默认值为False，若是设为True，表明p为后台运行的守护进程，当p的父进程终止时，p也随之终止，而且设定为True后，p不能建立本身的新进程，必须在p.start()以前设置
  • p.name：进程的名称
  • p.pid：进程的pid
  • p.exitcode：进程在运行时为None、若是为–N，表示被信号N结束(了解便可)
  • p.authkey：进程的身份验证键,默认是由os.urandom()随机生成的32字符的字符串。这个键的用途是为涉及网络链接的底层进程间通讯提供安全性，这类链接只有在具备相同的身份验证键时才能成功（了解便可）

3.3在windows中使用process模块的注意事项

在Windows操做系统中因为没有fork(linux操做系统中建立进程的机制)，在建立子进程的时候会自动 import 启动它的这个文件，而在 import 的时候又执行了整个文件。所以若是将process()直接写在文件中就会无限递归建立子进程报错。因此必须把建立子进程的部分使用if __name__ =='__main__' 判断保护起来，import 的时候，就不会递归运行了。app

4、使用process模块建立进程

在一个python进程中开启子进程，start方法和并发效果。dom

4.1在python中启动的第一个子进程

# 没有参数的，开启单个子进程
from multiprocessing import Process
import  time

def talk():
    print('开启子进程start')
    time.sleep(1)
    print('结束子进程end')

if __name__ == '__main__':
     p = Process(target=talk)
     p.start() # 告诉操做系统，我要开启子进程，仅仅是开启子进程就完了，接着走下面的代码，具体操做系统何时开是操做系统的事情
     print('主进程/父进程')

主进程/父进程
开启子进程start
结束子进程endsocket

# 带有参数的，开启多个子进程
def talk(name):
    print(f'{name}子进程start')
    time.sleep(1)
    print(f'{name}子进程end')

if __name__ == '__main__':
    p = Process(target=talk,args=('xichen',))
    p1 = Process(target=talk,args = ('nick',))
    p.start()
    p1.start()
    print('主进程/父进程')

主进程/父进程
xichen子进程start
nick子进程start
xichen子进程end
nick子进程end函数

注意：开启多个进程的时候，操做系统先开启哪个进程是咱们控制不了的，这是操做系统本身所拥有的调度机制

4.2继承Process来开启进程

class Test(Process):
    def __init__(self,name):
        super().__init__()
        self.name = name

    def run(self):
        print(f'子进程{self.name}-->start')
        time.sleep(1)
        print(f'子进程{self.name}-->end')

if __name__ == '__main__':
    p = Test('xichen')
    p1 = Test('nick')
    p.start() # 向操做系统发送开启子进程，这个时候会自动触发Test类的run方法
    p1.start()
    print('主进程/子进程')

主进程/子进程
子进程xichen-->start
子进程nick-->start
子进程xichen-->end
子进程nick-->end

4.3 join 方法

  • join方法：是在子进程开启的时候加了堵塞，就是父进程必需要等待子进程的结束，才结束父进程
def f1():
    print('子进程start')
    time.sleep(2)
    print('子进程end')

if __name__ == '__main__':
    print('开始父进程')
    p = Process(target=f1)
    p.start()

    p.join() # 是父进程要等待子进程结束后，再启动父进程
    # time.sleep(5) 其实核心其实就是在启动主进程的以前加一个延时，让他等子进程结束后再执行
    print('我是父进程,等待子进程运行结束再结束')

开始父进程
子进程start
子进程end
我是父进程,等待子进程运行结束再结束

1.join方法实现多个子进程并行结束后，在结束父进程
from multiprocessing import Process
import time

def f(i):
    print(f'进程{i} start')
    time.sleep(i)
    print(f'进程{i} end')

if __name__ == '__main__':
    print('开始父进程')
    p1 = Process(target=f,args=(1,))
    p2 = Process(target=f,args=(2,))
    p3 = Process(target=f,args=(3,))
    start = time.time()
    p1.start()
    p2.start()
    p3.start()

    # join核心就是将程序堵塞在这里，主进程须要等待子进程结束之后，在去执行
    p1.join()
    p2.join()
    p3.join()
    end = time.time()
    # 总时长：按照最长的时间计算多一点
    print('程序执行的时间:',end - start) # 3s多，由于执行的进程是在一个时间的
    print('启动父进程')

开始父进程
进程1 start
进程2 start
进程3 start
进程1 end
进程2 end
进程3 end
程序执行的时间: 3.5759353637695312
启动父进程

2.join方法实现多个子进程串行结束后，在结束父进程

# 用Process类来建立多个子进程，而且用join方法让父进程等待着子进程结束之后，在结束父进程
# 可是这样太耗费时间了，还不如直接调用咱们写的函数实现
# 1.实现多个进程串行结束之后，在结束掉父进程
def f(i):
    print(f'子进程{i} start')
    time.sleep(i)
    print(f'子进程{i} end')


if __name__ == '__main__':
    print('开始父进程')
    p1 = Process(target=f,args=(1,))
    p2 = Process(target=f,args=(2,))
    p3 = Process(target=f,args=(3,))
    start = time.time()

    p1.start()
    p1.join()

    p2.start()
    p2.join()

    p3.start()
    p3.join()

    end = time.time()
    print('程序执行的总时长:',end-start) # 7s多，
    print('结束父进程')
    
  
# 2.直接利用函数调用的方法来实现多个子进程串行的结束
# def f1(i):
#     print(f'子进程{i} start')
#     time.sleep(i)
#     print(f'子进程{i} end')
#
# if __name__ == '__main__':
#     print('开启主进程')
#     start = time.time()
#     f1(1)
#     f1(2)
#     f1(3)
#     end = time.time()
#     print('程序执行的总时间：',end - start) # 6秒多，
#     print('结束父进程')
开启主进程
子进程1 start
子进程1 end
子进程2 start
子进程2 end
子进程3 start
子进程3 end
程序执行的总时间： 6.001583814620972
结束父进程

开始父进程
子进程1 start
子进程1 end
子进程2 start
子进程2 end
子进程3 start
子进程3 end
程序执行的总时长: 7.081932783126831
结束父进程

3.优化join实现多个子进程并行结束后，结束父进程
# 对join实现多个子进程并行结束在结束主进程，作了优化，
# 咱们不用在建立多个子进程的时候，每次用Process类来实例化一个新的进程对象
# 能够直接使用循环，这样更方便简洁一些
def f(i):
    print(f'子进程{i} start')
    time.sleep(i)
    print(f'子进程{i} end')

if __name__ == '__main__':
    print('开始执行主进程')
    p_lst = []
    start = time.time()
    for i in range(1,4):
        p = Process(target=f,args=(i,))
        p_lst.append(p)
        p.start()
    for p in p_lst:
        p.join()

    end = time.time()
    print('结束主进程')
    print('程序执行的总时长:',end-start)

开始执行主进程
子进程2 start
子进程1 start
子进程3 start
子进程1 end
子进程2 end
子进程3 end
结束主进程
程序执行的总时长: 3.49997878074646

4.4 Process类查看进程号的方法

  • Process类查看进程号（id号）
  • pid 直接用进程对象.pid是在主进程里查看子进程的pip号
  • os.getpid 能够在子进程里查看子进程的进程号、能够在父进程里查看父进程的进程号
  • os.getppid 能够在子进程里查看子进程的父进程的进程号、能够在父进程里查看父进程的父进程号
  • current_process().pid 查看当前进程的进程号
from multiprocessing import Process
import os,time

def f(i):
    print(f'子进程{i}  start')
    print('在子进程中查看本身的进程号pid:',os.getpid(),'在子进程中查看父进程的进程号pid:',os.getppid())
    time.sleep(i)
    print(f'子进程{i}  end')

if __name__ == '__main__':
    print('开始父进程')
    p = Process(target=f,args=(1,))
    p.start()
    p.join()

    print('在父进程中查看子进程的进程号pid:',p.pid,'在父进程中查看主进程进程号:',os.getpid()
              ,'在父进程中查看父进程的父进程号pid:',os.getppid())
    print('结束父进程')

开始父进程
子进程1 start
在子进程中查看本身的进程号pid: 15352 在子进程中查看父进程的进程号pid: 12416
子进程1 end
在父进程中查看子进程的进程号pid: 15352 在父进程中查看主进程进程号: 12416 在父进程中查看父进程的父进程号pid: 12248
结束父进程

4.5 进程对象的terminate和is_alive方法

  • terminate 是用来关闭进程的
  • is_alive 是判断一个进程的存活状态的，返回True/Flase
from multiprocessing import Process
import os
import time

# 1.terminate 方法
def f(i):
    print(f'子进程{i}  start')
    time.sleep(i)
    print(f'子进程{i}  end')

if __name__ == '__main__':
    print('开始执行父进程')
    p = Process(target=f,args=(1,))
    p.start()

    p.terminate() # 用来关闭打开的子进程，可是他不会立马关闭，因此is_alive查看进程存活状态的时候，不必定是已经死了
    print(p.is_alive())
    p.join()
    print(p.is_alive())
    print('结束父进程')

开始执行父进程
True
False
结束父进程

4.6 current_Process方法

  • current_process 方法是用来查看当前进程的进程名字,进程号
  • current_process().name
  • current_process().pid
import time
from multiprocessing import Process,current_process

def f(i):
    print(f'子进程{i}  start')
    print(f'当前进程{i}的名字为:',current_process().name)
    print(f'当前进程{i}的进程号为:',current_process().pid)
    print(f'子进程{i}  end')

if __name__ == '__main__':
    print('开始执行父进程')
    p1 = Process(target=f,args=(1,))
    p2 = Process(target=f,args=(2,))
    p3 = Process(target=f,args=(3,))

    p1.start()
    p1.join()

    p2.start()
    p2.join()

    p3.start()
    p3.join()

    print('结束父进程')

开始执行父进程
子进程1 start
当前进程1的名字为: Process-1
当前进程1的进程号为: 6232
子进程1 end
子进程2 start
当前进程2的名字为: Process-2
当前进程2的进程号为: 14552
子进程2 end
子进程3 start
当前进程3的名字为: Process-3
当前进程3的进程号为: 12896
子进程3 end
结束父进程

4.7 进程的name属性

  • 利用继承Process类来建立进程的时候，涉及了进程对象的属性问题
from multiprocessing import Process
class Mydata(Process):
    def __init__(self,name):
        # self.name = name  # 这里的name属性是Process类的name属性，表示的是当前进程的名字，打印进程的名字的时候
        # 打印的并非咱们须要的实例化进程时给的初始值
        开始执行父进程
        子进程Mydata-1 start
        子进程Mydata-1 start
        结束父进程
        super().__init__() # 在这里执行父类Process的__init__方法的时候，process里的init方法由会将name属性的值给覆盖掉
        self.name = name # 若是不想要覆盖掉咱们的name属性值的话，咱们须要在super()后面对进程对象的name属性值赋值

    def run(self):
        print(f'子进程{self.name} start')
        print(f'子进程{self.name} start')

if __name__ == '__main__':
    print('开始执行父进程')
    p = Mydata('xichen')
    p.start()
    p.join()
    print('结束父进程')

开始执行父进程
子进程xichen start
子进程xichen start
结束父进程

5、守护进程

  • 守护进程就是伴随某一个子进程
  • 本质也是一个子进程
  • 主进程的代码执行完毕守护进程直接结束。
  • 可是此时主进程可能没有结束.
  • 定义守护进程：进程对象.daemon = True 就是把这个进程定义为守护进程
  • p.daemon=True必定要在p.start()前设置,设置p为守护进程,禁止p建立子进程,而且父进程代码执行结束,p即终止运行
from multiprocessing import Process
import time
def foo(i):
    print(f'守护进程{i} start')
    time.sleep(2)
    print(f'守护进程{i} end')


def fo(i):
    print(f'子进进程{i} start')
    time.sleep(2)
    print(f'子进进程{i} end')

if __name__ == '__main__':
    print('开始执行父进程')
    p = Process(target=foo,args=(1,))
    p1 = Process(target=fo,args=(2,))
    p.daemon = True # 把这个子进程定义为了守护进程
    # 它不会影响p2这个进程对象的执行
    p.start()
    p1.start()
    time.sleep(1)
    print('父进程结束')

开始执行父进程
子进进程2 start
守护进程1 start
父进程结束
子进进程2 end

6、使用多进程实现socket聊天并发

6.1使用多进程实现socket聊天并发——server

# Author:xichen
# @Time:2019/9/1114:24
import socket
from multiprocessing import Process

server = socket.socket(socket.AF_INET,socket.SOCK_STREAM)
server.setsockopt(socket.SOL_SOCKET,socket.SO_REUSEADDR,1)
server.bind(('192.168.11.78',8002))
server.listen(10)

def Mydata(conn,client_addr):
    while True:
        try:

            data = conn.recv(1024)
            if not data:
                conn.close()
                break
            print('子进程的数据为:',data)
            conn.send(data.upper())
            print('向子进程发送的数据为:',data.upper().decode('utf8'))
        except Exception:
            break

if __name__ == '__main__':
    while True:
        conn,client_addr = server.accept()
        print(f'开启子进程：地址为:{client_addr}')
        p = Process(target = Mydata,args=(conn,client_addr))
        p.start()

6.2使用多进程实现socket聊天并发——client

import socket

client = socket.socket()
client.connect(('192.168.11.78',8002))

while True:
    data = input('开始发送数据:')
    if not data:
        break
    client.send(data.encode('utf8'))
    msg = client.recv(1024)
    print('接收服务端返回

7、进程之间的数据隔离问题

进程之间的数据隔离问题

rom multiprocessing import Process
import time

x = 0
def task():
    global x
    x = 100
    print('子进程的x修改成了{}'.format(x))

if __name__ == '__main__':
    p = Process(target=task)
    p.start()
    time.sleep(5)
    print(x)

子进程的x修改成了100

0

相关文章
相关标签/搜索
每日一句
    每一个你不满意的现在，都有一个你没有努力的曾经。
本站公众号
   欢迎关注本站公众号,获取更多信息
联系我们 最近搜索 最新文章 沪ICP备13005482号-10 MyBatis教程 SQL 教程 MySQL教程 Java 教程 Thymeleaf 教程 Hibernate教程 Spring教程 Redis教程