漫談機器學習經典演算法 人工神經網路

2021-09-08 13:11:21 字數 1111 閱讀 2991

更新:文章遷移到了這裡。

有對應的ppt鏈結。

注:整理自向世明老師的ppt

內容提要

1 發展歷史

2 前饋網路(單層感知器,多層感知器。徑向基函式網路rbf)

3 反饋網路(hopfield網路。

聯想儲存網路,som。boltzman及受限的玻爾茲曼機rbm,dbn,cnn)

發展歷史

單層感知器

1 基本模型

2 假設激勵函式是線性的話。可用最小二乘直接計算

3 假設激勵函式是sifmoid function,可迭代更新(一次性或者逐樣本更新)

上式僅僅做了簡單的求導展開。非常easy推導

多層感知器

1 基本模型

2 舉例(含有乙個隱含層的多層感知器mlp)

模型:

y=h(v)=h(h(u))

求解:

這裡怎麼轉換到6k(xi)的?

然後分別對兩個層的權值求導:

然後更新就可以,反向傳播(bp)

3 經驗

4 優缺點

rbf神經網路

1 模型

2 求解

3 長處和視角

深度學習簡單介紹

1 前向神經網路

2 發展歷程

3 總體一覽

4 一些值得關注

學術

工業

belief network & hopfield network & boltzman機 & rbm 結構一瞥

1 belief network

2 hopfield network

3 boltzman機

4 rbm 受限的玻爾茲曼機

rbm1 模型

利用上圖中公式。能夠得到

2 求解 cd演算法

dbn1 模型

2 訓練

面向特徵提取

面向分類

dbm模型

cnn1 模型

2 訓練

參考文獻

機器學習之人工神經網路演算法

機器學習中有乙個重要的演算法,那就是人工神經網路演算法,聽到這個名稱相信大家能夠想到人體中的神經。其實這種演算法和人工神經有一點點相似。當然,這種演算法能夠解決很多的問題,因此在機器學習中有著很高的地位。下面我們就給大家介紹一下關於人工神經網路演算法的知識。1.神經網路的 我們聽到神經網路的時候也時...

傳統演算法 人類學習和機器學習

使用計算機來解決問題,繞不過演算法,傳統演算法 由人來設定具體的規則,讓機器來執行。人是將,機器是兵。人勝於思考力,機器勝於執行力 計算速度快 後來發現有些問題,依靠傳統演算法,計算機難以解決,一方面問題越來越複雜,規則難以制定,或者說規則一直在變化,另一方面也遇到了一些在人看來很容易解決,但是機器...

機器學習經典演算法

函式名稱均為sklearn庫中的函式 1.線性回歸演算法 linearregression 其中常用的有 ridge 嶺回歸演算法,multitasklasso 多工lasso回歸演算法,elasticnet 彈性網眼演算法,lassolars lars套索演算法,orthogonalmatchin...