花書 吳恩達深度學習(二九)生成隨機網路 GSN

2021-09-10 08:30:26 字數 629 閱讀 6886

花書+吳恩達深度學習(二七)深度生成模型之玻爾茲曼機及其變體(rbm, dbn, dbm)

花書+吳恩達深度學習(二八)深度生成模型之有向生成網路(vae, gan, 自回歸網路)

花書+吳恩達深度學習(二九)生成隨機網路 gsn

生成隨機網路(generative stochastic network)除可見變數外,在生成馬爾可夫鏈中還包含潛變數。

gsn由兩個條件概率分布引數化,指定馬爾可夫鏈的一步:

gsn自己引數化過程,而不是通過可見和潛變數的聯合分布的數學形式。

gsn的訓練準則,通過將x(0

)=

xx^=x

x(0)=x

夾合到觀察到的樣本並且在一些後續時間步處使生成x的概率最大化,即最大化log⁡p

(x(k

)=x∣

h(k)

)\log p(x^=x\mid h^)

logp(x

(k)=

x∣h(

k)),其中給定x(0

)=

xx^=x

x(0)=x

後,h (k

)h^

h(k)

從鏈中取樣。

花書 吳恩達深度學習(五)正則化方法(防止過擬合)

0.前言 1.引數範數懲罰 2.dropout 隨機失活 3.提前終止 4.資料集增強 5.引數共享 花書 吳恩達深度學習 五 正則化方法 防止過擬合 花書 吳恩達深度學習 六 優化方法之 mini batch sgd,mbgd,bgd 花書 吳恩達深度學習 七 優化方法之基本演算法 momentu...

吳恩達 深度學習 神經網路和深度學習

二分類問題是一種簡單分類問題,其輸出結果是兩個離散值。假如給定一副貓的,那麼二分類問題就可描述為 判別這幅影象中是否有貓?分類結果也只有1 表示存在 0 表示不存在 兩種。符號定義 x 表示乙個nx維資料,為輸入資料,維度為 nx,1 y 表示輸出結果,取值為 0,1 x i y i 表示第i組資料...

吳恩達神經網路和深度學習

課程名稱 神經網路和深度學習 andrew ng 神經網路和深度學習 1 什麼是神經網路 傳送門 神經網路和深度學習 2 啟用函式 傳送門 神經網路和深度學習 3 神經網路輸入的表示 傳送門 神經網路和深度學習 4 符號約定 傳送門 神經網路和深度學習 5 邏輯回歸 傳送門 神經網路和深度學習 6 ...