Python 為了提公升效能,竟運用了共享經濟

2021-09-27 12:53:10 字數 2721 閱讀 4434

大家或許知道,python 為了提高記憶體的利用效率,採用了一套共用物件記憶體的分配策略。

例如,對於那些數值較小的數字物件([-5, 256])、布林值物件、none 物件、較短的字串物件(通常 是 20)等等,字面量相等的物件實際上是同乙個物件。

a = 100

b = 100

s = 「python_cat」

t = 「python_cat」

id(a) == id(b) # 結果:true

id(s) == id(t) # 結果:true

透過現象看本質,python 可以很有趣。

但是,python 的有趣之處還不止於此,本文要繼續分享另一種記憶體管理機制,在某種程度上,它實現了共享經濟與供需平衡的融合,我們從中可揭開 python 的另一重身份……

1、不可變物件的共享經濟

上面列出的"特權種族"都是不可變物件(而「供需平衡」主要出現於可變物件),對於這些不變的物件,當出現多處使用時,共用乙個物件似乎是種不錯的優化方法。

我曾有一種猜想:python 的不可變物件都可能是特權種族。

下面把它跟列表作一下對比:

a =

b =

c = ()

d = ()

將實驗延伸到集合與字典,它們是可變物件,你會發現結果跟列表一樣,存在多個副本,即不是特權種族。我就不舉例了。

除了空元組,還有什麼樣的元組是「特權種族」?(ps:從元素的數量、型別、元素自身的大小考慮,就我小範圍試驗,還沒發現。所以,空元組是獨特的唯一?)

編譯期與執行期有所區別,這在之前寫字串的 intern 機制時(《intern機制的軟肋》)也分析過。(ps:print(id() == id()),結果為 true,與上例先賦值再比較不同。)

2、可變物件的共享經濟

空元組體現了共享經濟,但由於它是不可變物件,所以不存在動態擴容,就只體現了極少的供需平衡。

作為對照,列表等可變物件充分表現了供需平衡,卻似乎沒辦法體現共享經濟。

比如說,我們把乙個列表想象成乙個可自增的杯子(畢竟它是某種容器),再把它的元素想象成不同種類的液體(水、可樂、酒……)。

對於第乙個問題,答案為否,驗證過程略。對於第二個問題,在上一節中,我們已驗證過兩個空杯子(即空列表),答案也為否。

但是,第二個問題還有其它的可能!下面讓我們換一種實驗方法:

a = [ for i in range(4)]

print(id(a))

for i in range(len(a)):

print(f』 – 』)

# a[i] = 1 # ps:可去除注釋,再執行一次,結果的順序有差別

del a

print(「after del」)

b = [ for i in range(4)]

print(id(b))

for i in range(len(b)):

print(f』 – 』)

以上**在不同環境中,執行結果可能有所差異。我執行的一次結果如下:

2012909395656

0 – 2012909395272

1 – 2012909406472

2 – 2012909395208

3 – 2012909395144

after del

2012909395656

0 – 2012909395272

1 – 2012909406472

2 – 2012909395208

3 – 2012909395144

分析結果可知:列表物件在被**之後,並不會徹底消除,它的記憶體位址會傳遞給新建立的列表,也就是說,新建立的列表其實共享了舊列表的記憶體位址!

再結合前面的例子,我們可以說,先後靜態建立的兩個列表會分配不同的記憶體位址,但是,經過動態**之後,先後建立的列表可能是同乙個記憶體位址!(注意:這裡說的是「可能」,因為在新列表建立前,若有其它地方也在建立列表,那後者可能奪去先機。)

延伸到其它基本的可變物件,例如集合與字典,也有同樣的共享策略,其目的顯而易見:迴圈利用這些物件的「殘軀」,可以避免記憶體碎片,提高執行效能。

共享乙隻杯子,總比重新創造乙隻杯子,要更高效便捷,對吧?

python 直譯器在實現這個機制時,使用了乙個叫做free_list 的全域性變數,其工作原理是:

當建立新的物件時,則檢查 free_list 內是否有可用物件,有則取出使用,沒有則建立

當這些物件被析構時,則檢查 free_list 是否有剩餘空間,有則存入其中

某類物件存入 free_list 時,只保留「軀殼」,而清空其內部所有的元素(即只共享杯子,不共享杯中物)

好了,現在我們可以說,列表、集合與字典這些可變物件,它們都不是前文所說的特權種族,但是,在它們背後都藏著迴圈使用的共享思想,這一點卻是相通的。

python 直譯器在記憶體管理上真是煞費苦心啊,在那些司空見慣的基本物件上,它施加了諸多的小魔法,在我們毫不覺察的時候,它們有條不紊地運作,而當我們終於見識清楚後,就不得不感嘆它的精妙了。

python 算得上是乙個精打細算的「經濟學家」了。

回顧全文,最後作乙個小結:

較小的數字、較短的字串、布林值與空元組等不可變物件,它們存在著「共享經濟」的機制,提公升了記憶體的使用效率

列表、集合與字典等可變物件,它們存在著預分配及超額分配等「供需平衡」的機制,提公升了記憶體的分配效率

列表等物件還存在著共享「容器外殼」的機制,迴圈利用空閒資源,綜合提公升程式效能

ps:本文寫作過半時,我覺得應該把它寫入「喵星來客」系列,但思前想後,最終作罷了(主要是懶)。

Python 為了提公升效能,竟運用了共享經濟

大家或許知道,python 為了提高記憶體的利用效率,採用了一套共用物件記憶體的分配策略。例如,對於那些數值較小的數字物件 5,256 布林值物件 none 物件 較短的字串物件 通常是 20 等等,字面量相等的物件實際上是同乙個物件。共用記憶體位址的例子 a 100 b 100 s python ...

Python演算法效能提公升的幾種方式

1 優化原本演算法 在演算法中盡量降低演算法複雜度,充分利用已生成的資料作為快取,用於下次。2 使用numpy numpy是專門用於計算數值的庫,由於numpy建立乙個大的物件時需要大的記憶體開銷,需要兼顧好初始化位置。有時使用可能並不會提高執行速度。3 使用numba 在pypy中jit技術能夠顯...

7 個習慣幫你提公升Python執行效能

掌握一些技巧,可盡量提高python程式效能,也可以避免不必要的資源浪費。1 使用區域性變數 盡量使用區域性變數代替全域性變數 便於維護,提高效能並節省記憶體。使用區域性變數替換模組名字空間中的變數,例如 ls os.linesep。一方面可以提高程式效能,區域性變數查詢速度更快 另一方面可用簡短識...