torch學習筆記 二 nn類結構 Linear

2021-09-26 22:59:22 字數 496 閱讀 7327

linear 是module的子類,是引數化module的一種,與其名稱一樣,表示著一種線性變換。

建立parent 的init函式

linear的建立需要兩個引數,inputsize 和 outputsize

inputsize:輸入節點數

outputsize:輸出節點數

所以linear 有7個字段:

weight : tensor , outputsize ×× inputsize

bias: tensor ,outputsize

gradweight: tensor , outputsize ×× inputsize

gradbias: tensor ,outputsize

gradinput: tensor

output: tensor

_type: output:type()

例子module = nn.linear(10, 5)

1forward pass

torch學習筆記(二)

在上乙個章節,描述了基礎的mlp的引數設定,資料集載入,預處理,以及模型的初始化,感覺torch的模型相對caffe來說,的確很麻煩,哈哈,但那時誰讓他安裝簡單並且還有很多的原始碼學習呢?哈哈,都是個人見解,caffe的原始碼學習模型也有很多很多的。這個章節我們討論一下對模型的運算。在介紹下面的 之...

Torch學習筆記

torch是facebook開源的機器學習框架,與當今火熱的tensorflow和caffe一樣,是深度學習 機器學習的利器,用好它們,能很快的在資料集上驗證自己的想法,只要熟練使用,一般的機器學習模型想怎麼玩就怎麼玩.torch是基於lua語言的,因此需要熟悉lua語言,lua在遊戲指令碼中用的非...

torch學習筆記《一》

1 利用torch搭建cnn神經網路和softmax完成影象分類,在cifar 10的分類例子和 參考 深度學習筆記系列 就是上面筆記的翻譯 2 lua 語言基礎知識 lua語言中冒號呼叫和點號呼叫的區別 冒號只是起了省略第乙個引數self的作用,該self指向呼叫者本身,並沒有其他特殊的地方。參考...