CUDA學習（五十一）

動態全域性記憶體分配和操作：

動態全域性記憶體分配和操作僅受計算能力2.x和更高的裝置支援

void* malloc(size_t size);
void free(void* ptr);

從全域性記憶體中的固定大小的堆中動態分配和釋放記憶體：

void* memcpy(void* dest, const void* src, size_t size);

將src指向的記憶體位置的大小位元組複製到dest指向的記憶體位置。

void* memset(void* ptr, int value, size_t size);

將src指向的記憶體位置的大小位元組複製到dest指向的記憶體位置。

void* memset(void* ptr, int value, size_t size);

將由ptr指向的記憶體塊的大小位元組設定為值（解釋為無符號字元）。

cuda in-kernel malloc（）函式至少從裝置堆中分配大小位元組，並返回指向已分配記憶體的指標，如果記憶體不足以滿足請求，則返回null。返回的指標保證與16位元組的邊界對齊。

cuda in-kernel free（）函式釋放ptr指向的記憶體，該記憶體必須先前呼叫malloc（）返回。如果ptr為null，則對free（）的呼叫將被忽略。用相同的ptr重複呼叫free（）具有未定義的行為。

由給定的cuda執行緒通過malloc（）分配的記憶體仍然分配給cuda上下文的生命週期，或直到通過呼叫free（）明確釋放。它可以被任何其他cuda執行緒使用，甚至可以在隨後的核心啟動時使用。任何cuda執行緒都可以釋放由另乙個執行緒分配的記憶體，但應注意確保同乙個指標不會多次釋放。

堆記憶體分配：

裝置記憶體堆具有固定大小，必須在使用malloc（）或free（）載入到上下文之前指定。如果任何程式使用malloc（）而沒有明確指定堆大小，則會分配乙個八兆位元組的預設堆。

以下api函式獲取並設定堆大小：

cudadevicegetlimit(size_t* size, cudalimitmallocheapsize)
cudadevicesetlimit(cudalimitmallocheapsize, size_t size)

授予的堆大小至少為大小位元組。 cuctxgetlimit（）和cudadevicegetlimit（）返回當前請求的堆大小。

當模組載入到上下文中時，堆的實際記憶體分配發生在顯式地通過cuda驅動程式api（請參閱模組）或隱式地通過cuda執行時api（請參閱cuda c執行時）中。如果記憶體分配失敗，則模組載入將生成乙個cuda_error_shared_object_init_failed錯誤。

一旦發生模組載入並且不根據需要動態調整堆大小，堆大小將無法更改。

為裝置堆保留的記憶體除了通過主機端cuda api呼叫（如cudamalloc（））分配的記憶體之外。

與主機記憶體api的互操作性：

通過裝置malloc（）分配的記憶體不能使用執行時釋放（即通過呼叫裝置記憶體中的任何空閒記憶體功能）。

同樣，通過執行時分配的記憶體（即通過呼叫裝置記憶體中的任何記憶體分配函式）不能通過free（）釋放。

此外，裝置malloc（）記憶體不能用於任何執行時或驅動程式api呼叫（即cudamemcpy，cudamemset等）。