GPU優化之Bank 衝突

2021-10-10 11:39:32 字數 652 閱讀 3844

什麼是bank?

shared memory被劃分成大小相同的模組,這些模組叫做bank。不同bank可以被同時讀寫,將shared memory如此劃分,將使得shared memory的訪存頻寬大大增加。

如果shared memory被劃分成16個bank,那麼它的訪存頻寬會比不劃分bank時快16倍。

shared memory的訪存速度是僅次於register,而又比global memory快100多倍。

bank 衝突

同乙個warp中不同執行緒去訪問shared memory中同乙個bank的不同字位址時,就會發生bank 衝突。

此時我們無法充分發揮bank的功能。最壞的情況是,乙個warp的32個執行緒同時訪問乙個bank的32個不同字位址,那麼這32個訪存操作會序列化,效率非常低。

如何避免bank 衝突

不同warp的執行緒之間不會發生bank 衝突。

典型的執行緒訪問方式:步長為1的時候,每個warp的執行緒和每個bank的id一一對應或者每個執行緒對應唯一的bank。不會產生衝突,即有32個bank。

步長為2的時候,有可能產生2路bank 衝突,就是有兩個執行緒同時訪問乙個bank。

GPU 程式設計入門到精通(四)之 GPU 程式優化

gpu 程式設計入門到精通 三 之 第乙個 gpu 程式 中講到了怎樣利用 cuda5.5 在 gpu 中執行乙個程式。通過程式的執行。我們看到了 gpu 確實能夠作為乙個運算器。可是,我們在前面的樣例中並沒有正真的發揮 gpu 並行處理程式的能力。也就是說之前的樣例僅僅利用了 gpu 的乙個執行緒...

GPU優化方法

cuda優化的最終目的是 在最短的時間內,在允許的誤差範圍內完成給定的計算任務。在這裡,最短的時間 是指整個程式執行的時間,更側重於計算的吞吐量,而不是單個資料的延遲。在開始考慮使用gpu和cpu協同計算之前,應該先粗略的評估使用cuda是否能達到預想的效果,包括以下幾個方面 精度 目前gpu的單精...

Unity優化 GPU優化概述

gpu主要處理影象渲染,與cpu不同,側重點自然也不同。gpu需要優化的點主要有以下幾點 1.填充率,可以簡單的理解為圖形處理單元每秒渲染的畫素數量。2.畫素的複雜度,比如動態陰影,光照,複雜的shader等等 3.幾何體的複雜度 頂點數量 4.gpu的視訊記憶體頻寬 針對上面的彙總,可以得知gpu...