Python 為什麼要用執行緒池?

2021-10-09 21:54:30 字數 3042 閱讀 2630

多執行緒的情況下確實可以最大限度發揮多核處理器的計算能力,提高系統的吞吐量和效能。

但是如果隨意使用多執行緒,對系統的效能反而有不利影響。

比如下面的情況:

建立執行緒是需要時間的,假設執行緒建立所需時間為t1,執行緒執行任務時間為t2,執行緒銷毀時間為t3,而往往t1+t3>t2。所以頻繁建立和銷毀執行緒也會消耗大量的時間。

如果有任務來了,再去建立執行緒的話效率比較低。

其次執行緒也需要占用記憶體空間,執行緒池可以管理控制線程,執行緒是稀缺資源,如果無休止的建立會消耗系統資源,還會降低系統穩定性。

因此,為了避免頻繁的建立和銷毀執行緒,讓建立的執行緒進行復用,就有了執行緒池的概念。

使用執行緒池可以進行統一分配,方便調優和監控。

執行緒池裡會維護一部分活躍執行緒,如果有需要,就去執行緒池裡取執行緒使用,用完即歸還到執行緒池裡,免去了建立和銷毀執行緒的開銷,且執行緒池也會執行緒的數量有一定的限制。

執行緒池的基類是 concurrent.futures 模組中的 executor。

executor 提供了兩個子類,即 threadpoolexecutor 和 processpoolexecutor。

其中 threadpoolexecutor 用於建立執行緒池,而 processpoolexecutor 用於建立程序池。

如果使用執行緒池/程序池來管理併發程式設計,那麼只要將相應的 task 函式提交給執行緒池/程序池,剩下的事情就由執行緒池/程序池來搞定。

exectuor 提供了如下常用方法:

submit

submit(fn, *args, **kwargs)
submit 將 fn 函式提交給執行緒池。

*args 代表傳給 fn 函式的引數。

*kwargs 代表以關鍵字引數的形式為 fn 函式傳入引數。

map

map(func, *iterables, timeout=none, chunksize=1)
map 函式類似於全域性函式 map(func, *iterables),只是該函式將會啟動多個執行緒,以非同步方式立即對 iterables 執行 map 處理。

關閉執行緒池。

shutdown(wait=true)
程式將函式提交(submit)給執行緒池後,submit 方法會返回乙個物件,該物件主要用於獲取執行緒任務函式的返回值。

該物件提供了如下方法:

在用完乙個執行緒池後,應該呼叫該執行緒池的 shutdown() 方法,該方法將啟動執行緒池的關閉序列。

呼叫 shutdown() 方法後的執行緒池不再接收新任務,但會將以前所有的已提交任務執行完成。

當執行緒池中的所有任務都執行完成後,該執行緒池中的所有執行緒都會死亡。

使用執行緒池來執行執行緒任務的步驟

呼叫 threadpoolexecutor 類的構造器建立乙個執行緒池。

定義乙個普通函式作為執行緒任務。

呼叫 threadpoolexecutor 物件的 submit() 方法來提交執行緒任務。

當不想提交任何任務時,呼叫 threadpoolexecutor 物件的 shutdown() 方法來關閉執行緒池。

from concurrent.futures import threadpoolexecutor

import threading

import time

defaction

(max):

sum=

0for i in

range

(max):

print

(threading.current_thread(

).name+

' '+

str(i)

)sum

+= i

return

sum# 建立乙個包含2個執行緒的執行緒池

pool = threadpoolexecutor(max_workers=2)

# 向執行緒池提交乙個任務

future1 = pool.submit(action,3)

# 向執行緒池再提交乙個任務

future2 = pool.submit(action,5)

# 判斷 future1 的任務是否結束

print

(future1.done())

time.sleep(2)

# 判斷 future2 的任務是否結束

print

(future2.done())

# 檢視future1代表的任務返回的結果

print

(future1.result())

# 檢視future2代表的任務返回的結果

print

(future2.result())

# 關閉執行緒池

pool.shutdown(

)

執行結果:

threadpoolexecutor-0_0 0

threadpoolexecutor-0_0 1

threadpoolexecutor-0_1 0

threadpoolexecutor-0_1 1

threadpoolexecutor-0_1 2

threadpoolexecutor-0_1 3

threadpoolexecutor-0_1 4

false

threadpoolexecutor-0_0 2

true

310

總結:

執行緒池在系統啟動時即建立一些空閒的執行緒,程式只要將乙個函式提交給執行緒池,執行緒池就會啟動乙個空閒的執行緒來執行它。

當該函式執行結束後,該執行緒並不會死亡,而是再次返回到執行緒池中變成空閒狀態,等待執行下乙個函式。

此外,使用執行緒池可以有效地控制系統中併發執行緒的數量。當系統中包含有大量的併發執行緒時,會導致系統效能急劇下降,甚至導致 python 直譯器崩潰,而執行緒池的最大執行緒數引數可以控制系統中併發執行緒的數量不超過此數。

為什麼要用執行緒池,執行緒池的引數解釋

為什麼要用執行緒池?1 降低資源消耗 提高執行緒利用率,降低建立和銷毀執行緒的消耗。2 提高響應速度 任務來了,直接有執行緒可用可執行,而不是先建立執行緒,再執行。3 提高執行緒的可管理性 執行緒是稀缺資源,使用執行緒池可以統一分配調優監控。corepoolsize代表核心執行緒數,也就是正常情況下...

為什麼要用多執行緒

以前我認為多執行緒的作用就是提公升效能。實際上,多執行緒並不一定能提公升效能 甚至還會降低效能 多執行緒也不只是為了提公升效能。多執行緒主要有以下的應用場景 1 避免阻塞 非同步呼叫 單個執行緒中的程式,是順序執行的。如果前面的操作發生了阻塞,那麼就會影響到後面的操作。這時候可以採用多執行緒,我感覺...

為什麼要用多執行緒

1 避免阻塞 非同步呼叫 2 避免cpu空轉 需要處理的資訊提供得太慢,導致 cpu 效能沒有充分利用,這個時候多程序能充分利用 cpu 在io程式設計一節中,我們已經知道,cpu的速度遠遠快於磁碟 網路等io。在乙個執行緒中,cpu執行 的速度極快,然而,一旦遇到io操作,如讀寫檔案 傳送網路資料...