CUDA裝置選擇資料型別的問題

2021-09-30 15:31:56 字數 420 閱讀 7586

最近在實現乙個向量相稱的cuda程式的時候,碰見乙個讓我很頭疼的問題。基本症狀是:計算結果在小資料量的時候是完全正確的,如果向量的維數增大到一定數值後,計算結果就不對了。我查了好久,終於找到了問題的源頭。竟然是資料型別的問題,寫下來提醒後來人!

我在核心函式中使用以下語句:

unsigned char tx = threadidx.x;

unsigned char bx = blockidx.x;

unsigned int id = tx + bx*blockdim.x;

id竟然不對了。我需要ls個執行緒,如果ls的數目足夠大,使得bx的值溢位了。

解決方法是:

unsigned short bx = blockidx.x;

MySQL資料型別 資料型別選擇

在mysq中建立表時,需要考慮為字段選擇哪種資料型別是最合適的。選擇合適的資料型別,會提高資料庫的效率。整數型別和浮點數型別最大的區別在於能否表達小數。整數型別不能表示小數,而浮點數型別可以表示小數。不同的整數型別的取值範圍不同。tinyint型別的取值範圍是0 255。如果欄位的最大值不超過255...

ZigBee幫助wifi裝置選擇通道的實驗總結

這篇文章應該早就寫的,一直拖著,已經記不清細節了,把能想到的寫一下。1.有關linux的指令碼。用到的地方還挺多的,主要是為了模擬全自動的系統,一直使用指令碼控制,方便。下面貼一段從命令列讀入引數,然後向三個路由器傳送控制命令,使其變換通道的 usr bin expect f set c1 lind...

mysql的資料型別選擇

選擇合適的資料型別對於獲得高效能至關重要 1.更小的通常更好 盡量使用正確儲存資料的最小資料型別,它們通常更快,因為它們占用更小的磁碟空間 記憶體和cpu快取,並且處理時需要的cpu週期更少。2.簡單就好 簡單的儲存型別通常需要更少的cpu週期。例如 整型比字元操作代價更低,因為字符集和校對規則使字...