cuda（compute unified device architecture）的簡稱，是由nvidia公司創立的基於他們公司生產的圖形處理器gpus（graphics processing units,可以通俗的理解為顯示卡）的乙個平行計算平台和程式設計模型。
通過cuda，gpus可以很方便地被用來進行通用計算（有點像在cpu中進行的數值計算等等），相比於cpu，gpus的flops（float-point operations per second）是cpu的數倍。在沒有cuda之前，gpus一般只用來進行圖形渲染（如通過opengl，directx）。開發人員可以通過呼叫cuda的api，來進行並行程式設計，達到高效能計算目的。而且平行計算由大型集群擴充套件到了普通顯示卡，使得使用者只需要一台帶有geforce顯示卡的計算機就能執行較大規模的並行處理程式。
host 端是指在 cpu 上執行的部分，而 device 端則是gpu在上執行的部分。device 端的程式又稱為 「kernel」。通常 host 端程式會將資料準備好後，複製到顯示卡的視訊記憶體中，再由顯示晶元執行 device 端程式，完成後再由 host 端程式將結果從視訊記憶體中取回。
測試**:test.cu
#include// 核函式宣告，前面的關鍵字__global__
__global__ void kernel( void )
int main(int argc, char* argv)
nvcc -wno-deprecated-gpu-targets -arch sm_20 test.cu -o test
測試**:test.cu
#include int main( void ) {
cudaerror_t cudastatus;
int num = 0;
cudadeviceprop prop;
cudastatus = cudagetdevicecount(&num);
for(int i = 0;i參考:
參考:
從0開始學習cuda和caffe原始碼閱讀
cuda是使用nvidia顯示卡進行並行運算的一種方式，目前經常被用於加速深度學習。cuda安裝相關文件 在cuda安裝完畢以後，cuda會生成cuda samples，這些是cuda的一些例子，windows預設目錄在c programdata nvidia corporation cuda sa...
GPU程式設計自學3 CUDA程式初探
3.1 主機與裝置 通常將cpu及其記憶體稱之為主機，gpu及其記憶體稱之為裝置。如下圖所示，新建乙個nvidia cuda工程，並命名為 1 helloworld 之後發現專案裡多了乙個 kernel.cu 的檔案，該檔案內容是乙個經典的向量相加的gpu程式。可以暫時全部注釋該 並嘗試編譯執行下面...
Caffe原始碼 math functions 解析
math function 定義了caffe 中用到的一些矩陣操作和數值計算的一些函式，這裡以float型別為例做簡單的分析 template void caffe cpu gemm const cblas transpose transa,const cblas transpose transb,...