python并发编程之多进程
一 multiprocessing模块介绍
python中的多线程无法利用多核优势,如果想要充分地使用多核CPU的资源(os.cpu_count()查看),在python中大部分情况需要使用多进程。Python提供了multiprocessing。
multiprocessing模块用来开启子进程,并在子进程中执行我们定制的任务(比如函数),该模块与多线程模块threading的编程接口类似。
multiprocessing模块的功能众多:支持子进程、通信和共享数据、执行不同形式的同步,提供了Process、Queue、Pipe、Lock等组件。
需要再次强调的一点是:与线程不同,进程没有任何共享状态,进程修改的数据,改动仅限于该进程内。
二 Process类的介绍
创建进程的类:
Process([group [, target [, name [, args [, kwargs]]]]]),由该类实例化得到的对象,表示一个子进程中的任务(尚未启动) 强调: 1. 需要使用关键字的方式来指定参数 2. args指定的为传给target函数的位置参数,是一个元组形式,必须有逗号
参数介绍:
1 group参数未使用,值始终为None 2 3 target表示调用对象,即子进程要执行的任务 4 5 args表示调用对象的位置参数元组,args=(1,2,'egon',) 6 7 kwargs表示调用对象的字典,kwargs={'name':'egon','age':18} 8 9 name为子进程的名称
方法介绍:
1 p.start():启动进程,并调用该子进程中的p.run() 2 p.run():进程启动时运行的方法,正是它去调用target指定的函数,我们自定义类的类中一定要实现该方法 3 4 p.terminate():强制终止进程p,不会进行任何清理操作,如果p创建了子进程,该子进程就成了僵尸进程,使用该方法需要特别小心这种情况。如果p还保存了一个锁那么也将不会被释放,进而导致死锁 5 p.is_alive():如果p仍然运行,返回True 6 7 p.join([timeout]):主线程等待p终止(强调:是主线程处于等的状态,而p是处于运行的状态)。timeout是可选的超时时间,需要强调的是,p.join只能join住start开启的进程,而不能join住run开启的进程
属性介绍:
1 p.daemon:默认值为False,如果设为True,代表p为后台运行的守护进程,当p的父进程终止时,p也随之终止,并且设定为True后,p不能创建自己的新进程,必须在p.start()之前设置 2 3 p.name:进程的名称 4 5 p.pid:进程的pid 6 7 p.exitcode:进程在运行时为None、如果为–N,表示被信号N结束(了解即可) 8 9 p.authkey:进程的身份验证键,默认是由os.urandom()随机生成的32字符的字符串。这个键的用途是为涉及网络连接的底层进程间通信提供安全性,这类连接只有在具有相同的身份验证键时才能成功
三 Process类的使用
注意:在windows中Process()必须放到# if __name__ == '__main__':下
由于Windows没有fork,多处理模块启动一个新的Python进程并导入调用模块。 如果在导入时调用Process(),那么这将启动无限继承的新进程(或直到机器耗尽资源)。 这是隐藏对Process()内部调用的原,使用if __name__ == “__main __”,这个if语句中的语句将不会在导入时被调用。
创建并开启子进程的两种方法
#开进程的方法一: import time import random from multiprocessing import Process def piao(name): print('%s piaoing' %name) time.sleep(random.randrange(1,5)) print('%s piao end' %name) p1=Process(target=piao,args=('egon',)) #必须加,号 p2=Process(target=piao,args=('alex',)) p3=Process(target=piao,args=('wupeqi',)) p4=Process(target=piao,args=('yuanhao',)) p1.start() p2.start() p3.start() p4.start() print('主线程')
#开进程的方法二: import time import random from multiprocessing import Process class Piao(Process): def __init__(self,name): super().__init__() self.name=name def run(self): print('%s piaoing' %self.name) time.sleep(random.randrange(1,5)) print('%s piao end' %self.name) p1=Piao('egon') p2=Piao('alex') p3=Piao('wupeiqi') p4=Piao('yuanhao') p1.start() #start会自动调用run p2.start() p3.start() p4.start() print('主线程')
进程直接的内存空间是隔离的
from multiprocessing import Process n=100 #在windows系统中应该把全局变量定义在if __name__ == '__main__'之上就可以了 def work(): global n n=0 print('子进程内: ',n) if __name__ == '__main__': p=Process(target=work) p.start() print('主进程内: ',n)
Process对象的其他方法或属性
# 进程pid:每一个进程在操作系统内都有一个唯一的id号,称之为pid # 方法一 ''' from multiprocessing import Process, current_process import time def task(): print('%s is running' % current_process().pid) time.sleep(3) print('%s is done' % current_process().pid) if __name__ == '__main__': p = Process(target=task) p.start() print('主进程 ', current_process().pid) ''' # 方法二 # from multiprocessing import Process # import os # import time # # # def task(): # print('%s is running' % os.getpid()) # time.sleep(2) # print('%s is done' % os.getpid()) # # # if __name__ == '__main__': # p = Process(target=task) # p.start() # print('主进程', os.getpid()) from multiprocessing import Process import os import time def task(): print('%s is running 爹是:%s ' % (os.getpid(), os.getppid())) time.sleep(2) print('%s is done 爹是:%s ' % (os.getpid(), os.getppid())) # os.getpid()获得id号;os.getppid())获得父级的id号 if __name__ == '__main__': p = Process(target=task) p.start() p.terminate() #干死进程 print(p.is_alive()) #判断是否存活 print('主进程:%s 主进程他爹:%s' % (os.getpid(), os.getppid()))
四 守护进程
主进程创建守护进程
其一:守护进程会在主进程代码执行结束后就终止
其二:守护进程内无法再开启子进程,否则抛出异常:AssertionError: daemonic processes are not allowed to have children
注意:进程之间是互相独立的,主进程代码运行结束,守护进程随即终止
from multiprocessing import Process import time def task(name): print('老太监%s活着.....' % name) # time.sleep(2) # print('皇上正在揍老太监%s...'%name) # time.sleep(2) # print('老太监%s被揍的嗷嗷叫...' % name) # time.sleep(2) # print('老太监%s瘫痪在床上痛苦的呻吟...' % name) # time.sleep(2) # print('不久之后老太监%s就呜呼哀哉了' % name) time.sleep(3) print('老太监%s正常死亡.....' % name) if __name__ == '__main__': p = Process(target=task, args=('张煜',)) # p.daemon = True p.start() time.sleep(1) print('皇上:金毛狗正在死....') # print('皇上:金毛狗正玩的不亦乐乎')
五 互斥锁
import json import time, random from multiprocessing import Process, Lock # 查票 def search(name): with open('db.json', 'rt', encoding='utf_8')as f: dic = json.load(f) time.sleep(1) print('%s 查看到余票为%s' % (name, dic['count'])) # 购票 def get(name): with open('db.json', 'rt', encoding='utf_8')as f: dic = json.load(f) if dic['count'] > 0: dic['count'] -= 1 time.sleep(random.randint(1, 3)) with open('db.json', 'wt', encoding='utf_8')as f: json.dump(dic, f) print('%s 购票成功' % name) else: print('%s 查看到没有余票了' % name) def task(name, mutex): search(name) # 并发 mutex.acquire() # 获取锁 get(name) # 串行 mutex.release() # 释放锁 # with mutex: # get(name) if __name__ == '__main__': mutex = Lock() # 互斥锁 for i in range(10): p = Process(target=task, args=('路人甲%s' % i, mutex)) p.start() # p.join() # 只能将进程的任务整体变成串行