Python多程序併發操作中程序池Pool的應用

2021-07-13 17:04:55 字數 1408 閱讀 3984

出自:squall_liu

在利用python進行系統管理的時候,特別是同時操作多個檔案目錄,或者遠端控制多台主機,並行操作可以節約大量的時間。當被操作物件數目不大時,可以直接利用multiprocessing中的process動態成生多個程序,10幾個還好,但如果是上百個,上千個目標,手動的去限制程序數量卻又太過繁瑣,這時候程序池pool發揮作用的時候就到了。

pool可以提供指定數量的程序,供使用者呼叫,當有新的請求提交到pool中時,如果池還沒有滿,那麼就會建立乙個新的程序用來執行該請求;但如果池中的程序數已經達到規定最大值,那麼該請求就會等待,直到池中有程序結束,才會建立新的程序來它。這裡有乙個簡單的例子:

#!/usr/bin/env python

#coding=utf-8

""" author: squall

last modified: 2011-10-18 16:50

filename: pool.py

description: a ****** sample for pool class

"""from multiprocessing import pool

from time import sleep

deff(x):

for i in range(10):

print

'%s --- %s ' % (i, x)

sleep(1)

defmain

(): pool = pool(processes=3) # set the processes max number 3

for i in range(11,20):

pool.close()

pool.join()

if result.successful():

print

'successful'

if __name__ == "__main__":

main()

先建立容量為3的程序池,然後將f(i)依次傳遞給它,執行指令碼後利用ps aux | grep pool.py檢視程序情況,會發現最多隻會有三個程序執行。

pool.join()是用來等待程序池中的worker程序執行完畢,防止主程序在worker程序結束前結束。但必pool.join()必須使用在pool.close()或者pool.terminate()之後。其中close()跟terminate()的區別在於close()會等待池中的worker程序執行結束再關閉pool,而terminate()則是直接關閉。

result.successful()表示整個呼叫執行的狀態,如果還有worker沒有執行完,則會丟擲assertionerror異常。

利用multiprocessing下的pool可以很方便的同時自動處理幾百或者上千個並行操作,指令碼的複雜性也大大降低。

Python多程序併發操作中程序池Pool的應用

在利用python進行系統管理的時候,特別是同時操作多個檔案目錄,或者遠端控制多台主機,並行操作可以節約大量的時間。當被操作物件數目不大時,可以直接利用multiprocessing中的process動態成生多個程序,10幾個還好,但如果是上百個,上千個目標,手動的去限制程序數量卻又太過繁瑣,這時候...

python多程序併發

由於python下呼叫linux的shell命令都需要等待返回,所以常常我們設定的多執行緒都達不到效果,因此在呼叫shell命令不需要返回時,使用threading模組並不是最好的方法。python提供了非常好用的多程序包multiprocessing,你只需要定義乙個函式,python會替你完成其...

python併發之多程序

一 multiprocessing模組介紹 python中的多執行緒無法利用多核優勢,如果想要充分地使用多核cpu的資源 os.cpu count 檢視 在python中大部分情況需要使用多程序。python提供了multiprocessing。multiprocessing模組用來開啟子程序,並在...