工作筆記 基於Apex的混合精度加速

2021-10-06 08:54:37 字數 400 閱讀 5720

from apex import amp

model, optimizer = amp.initialize(model, optimizer, opt_level=

'o1'

)# not 01

with amp.scale_loss(loss, optimizer)

as scaled_loss:

scaled_loss.backward(

)optimizer = torch.optim.adam([,

,])

混合精度計算 (mixed precision)

nvidia開發的基於pytorch的混合精度訓練加速器apex

使用上述**可以實現不同程度的混合精度加速,訓練時間縮短一半。

Qt工作筆記 moc的認識

qt 本身不是一種程式語言,它是c 編寫的乙個框架。通過使用乙個叫做moc meta object compiler 的預處理器來擴充套件標準的c 語言,從而實現訊號和槽等特性。qt編寫的程式可以使用clang gcc icc mingw和msvc等多種標準c 編譯器進行編譯。qt 將源 交給標準 ...

基於流的XML檔案操作筆記

xmlreader與 sax讀取器類似,不過前者是提取模式 只進唯讀的游標 後者是推送模式 將事件推送到應用程式 xmlreader的優點是 1 簡化狀態管理 2 可以有多個輸入流 3 提取模式可以作為推送模式的基礎,反之不行。4 提供乙個可以將字串直接寫入緩衝區,避免多餘位元組的的複製。5 有選擇...

C 工作筆記 對const cast的理解

先上 include using namespace std class myclass void print const void setdata const int data private int m data int main 執行截圖如下 這裡面const myclass myclass2...