結構：兩層的神經網路（可視層與隱藏層）；雙向全連線：即可視層作為輸入用於啟用隱藏層單元，隱藏層作為輸入用於啟用可視層單元（輸入資訊重構）
目的：輸入向量v
與輸出向量
h（隱藏層的輸出）盡可能一一對應。即
h進可能是
v的編碼。 只有h與
v一一對應，重構資訊才能與v與
v『誤差盡可能小。
構造乙個（v，h
）的聯合分布函式，當p（
v，h）盡可能大時，h與
v才盡可能一一對應。
想想二維hv
概率分布圖。當
h-v是一根線時，p（
v，h）才會大（概率密度大），當p（
v，h）是一片區域，p（
v，h）會很小。
所以，最終目標就是使p（v
，h）大。
方法：構造概率密度，是p
最大。
（為什麼e
是這種形式，想想感知機的輸入）
解決求p
最大的手段： 求p
（v，h
）最大，即求
e最小。（因為只有
v是確定的，
h隨引數變化而變化，直接求p（
v，h）不好求） 而
所以，可求p（v
）最大。 根據引數，使用極大似然。
玻爾茲曼機
受限玻爾茲曼機 rbm 是一種用於降維 分類 回歸 特徵學習 協同濾波 主題建模的演算法。注釋 1.在機器學習和統計學習領域，降維是指在某些特定條件下，降低隨機變數的個數，得到一組不相關主變數的過程。降維可分為特徵選擇和特徵提取兩大方法 特徵選擇假定資料中包含大量冗餘或者無關變數 或稱特徵 屬性 指...
玻爾茲曼機
我將嘗試介紹有關受限玻爾茲曼機器的直覺及其工作方式。什麼是玻爾茲曼機？玻爾茲曼機器是能夠學習內部表示的隨機生成的神經網路，能夠表示和 給定足夠的時間 解決困難的組合問題。玻爾茲曼機如何工作？玻爾茲曼機如下所示 boltzmann機是僅有兩種型別的節點 隱藏節點和可見節點 的非確定性 或隨機 生成型深...
受限玻爾茲曼機二
限制波爾茲曼機rbm使用方法 限制波爾茲曼機rbm能量模型 從能量模型到概率 求解極大似然 用到的抽樣方法 馬爾科夫蒙特卡羅簡介 參考文獻 利用上面的公式得到的是某個單元狀態為1的輸出概率。那麼怎樣才能確定這個單元的狀態是1呢？它通過產生乙個0 1的隨機，如果這個隨機數小於上面得到的概率值，這個單元...