1.來自nvidia的 cuda 並行程式設計框架是 gpgpu 正規化的一種特定的實現。它提供了gpu程式設計的簡易介面，基於cuda程式設計可以構建基於gpu計算的應用程式。
2.cuda 在技術上是一種異構計算環境，也就是說它利用了同時在 cpu 和 gpu 上的協調計算。cuda 架構由主機（host）和裝置（device）組成；其中主機是指傳統的 cpu，而裝置則是指帶有大量算術單元的處理器，通常是 gpu。基於cpu+gpu的異構計算平台可以優勢互補，cpu負責處理邏輯複雜的序列程式，而gpu重點處理資料密集型的平行計算程式，從而發揮最大功效。
3.當乙個kernel(核)被載入時，它會被大量 cuda 裝置的執行緒同時執行，其中的某個集合可以被稱為乙個執行緒塊（block of threads），塊可以集聚為網格（grid）。
乙個 cuda 裝置只有乙個全域性記憶體空間。載入核和產生大量用於計算的裝置執行緒的首要條件是將所需的資料從主機複製到裝置記憶體。一旦計算完成，還必須按相反的方向將結果複製回去。
典型的cuda程式的執行流程如下：
1. 分配host記憶體，並進行資料初始化；
2. 分配device記憶體，並從host將資料拷貝到device上；
3. 呼叫cuda的核函式在device上完成指定的運算；
4. 將device上的運算結果拷貝到host上；
5. 釋放device和host上分配的記憶體。
4.gpu存在很多cuda核心，充分利用cuda核心可以充分發揮gpu的平行計算能力。gpu硬體的乙個核心元件是sm(streaming multiprocessor)，翻譯為中文為流式多處理器。
sm的核心元件包括cuda核心，共享記憶體，暫存器等，sm可以併發地執行數百個執行緒，併發能力就取決於sm所擁有的資源數。當乙個kernel被執行時，它的gird中的執行緒塊被分配到sm上，乙個執行緒塊只能在乙個sm上被排程。而sm一般可以排程多個執行緒塊。
由於sm的基本執行單元是包含32個執行緒的執行緒束，所以block大小一般要設定為32的倍數。
5.最後，在進行cuda程式設計前，可以先檢查一下自己的gpu的硬體配置，這樣才可以有的放矢。
CUDA程式設計 CPU計時與GPU計時
使用cuda進行程式設計，主要目的就是時間上加速。為此，如何計時必不可少。在cuda中，我們可以使用cpu計時函式和gpu計時函式。對於cpu計時，我們在之前的文章 精確系統計時 秒 毫秒 微秒 中已經介紹在一般的c c 程式設計中的計時方法。下面我們介紹在cuda中如何計時 cpu計時 cuda中...
GPU 高效能程式設計 CUDA 執行緒協作
並行執行緒塊的分解 在向量加法中，為向量中的每乙個元素都啟動乙個執行緒塊 add dev a,dev b,dev c 尖括號中的第乙個引數建立的執行緒塊的數量，第二個引數表示每個執行緒塊中建立的執行緒數量，所以上述啟動的執行緒數量為 n n 1 使用執行緒實現 gpu 上的向量求和 需要修改兩個地方...
1 GPU程式設計 CUDA環境搭建
首先說明一下我的基礎環境 神舟筆記本 win10 x64 專業版 nvidia gtx1050 vs2013。cuda path c program files nvidia gpu computing toolkit cuda v8.0 cuda path v8 0 c program files...