花書+吳恩達深度學習(二七)深度生成模型之玻爾茲曼機及其變體(rbm, dbn, dbm)生成隨機網路(generative stochastic network)除可見變數外,在生成馬爾可夫鏈中還包含潛變數。花書+吳恩達深度學習(二八)深度生成模型之有向生成網路(vae, gan, 自回歸網路)
花書+吳恩達深度學習(二九)生成隨機網路 gsn
gsn由兩個條件概率分布引數化,指定馬爾可夫鏈的一步:
gsn自己引數化過程,而不是通過可見和潛變數的聯合分布的數學形式。
gsn的訓練準則,通過將x(0
)=
xx^=x
x(0)=x
夾合到觀察到的樣本並且在一些後續時間步處使生成x的概率最大化,即最大化logp
(x(k
)=x∣
h(k)
)\log p(x^=x\mid h^)
logp(x
(k)=
x∣h(
k)),其中給定x(0
)=
xx^=x
x(0)=x
後,h (k
)h^
h(k)
從鏈中取樣。
花書 吳恩達深度學習(五)正則化方法(防止過擬合)
0.前言 1.引數範數懲罰 2.dropout 隨機失活 3.提前終止 4.資料集增強 5.引數共享 花書 吳恩達深度學習 五 正則化方法 防止過擬合 花書 吳恩達深度學習 六 優化方法之 mini batch sgd,mbgd,bgd 花書 吳恩達深度學習 七 優化方法之基本演算法 momentu...
吳恩達 深度學習 神經網路和深度學習
二分類問題是一種簡單分類問題,其輸出結果是兩個離散值。假如給定一副貓的,那麼二分類問題就可描述為 判別這幅影象中是否有貓?分類結果也只有1 表示存在 0 表示不存在 兩種。符號定義 x 表示乙個nx維資料,為輸入資料,維度為 nx,1 y 表示輸出結果,取值為 0,1 x i y i 表示第i組資料...
吳恩達神經網路和深度學習
課程名稱 神經網路和深度學習 andrew ng 神經網路和深度學習 1 什麼是神經網路 傳送門 神經網路和深度學習 2 啟用函式 傳送門 神經網路和深度學習 3 神經網路輸入的表示 傳送門 神經網路和深度學習 4 符號約定 傳送門 神經網路和深度學習 5 邏輯回歸 傳送門 神經網路和深度學習 6 ...