李巨集毅機器學習課程筆記 5 1深度學習之引言

2022-06-05 07:18:15 字數 855 閱讀 5103

目錄和機器學習一樣:

確定模型(model)/函式集(function set),在深度學習中就是定義乙個神經網路。

不同的連線會構成多樣的網路結構。

確定如何評價函式的好壞

如果是多分類,那和classification一章中一樣,計算每個樣本**結果與ground truth的交叉熵,然後求和,即為loss。

確定如何找到最好的函式

還是gradient descent。

神經網路模型對應的函式比較複雜,而反向傳播演算法(backpropagation)是乙個很有效的計算神經網路梯度的方法。

即fully connected feedforward neural network,ffn。

其中residual net並不是一般的全連線前饋神經網路

網路結構

提出年份

層數imagenet錯誤率

alexnet

2012

816.4%

vggnet

2014

197.3%

googlenet

2014

226.7%

residual net

2015

1523.57%

這兩個問題哪個更容易呢?可能後者更容易些,比如在影象識別、語音識別任務中,人類可能並不知道自己是如何識別影象和語音的,就無法通過符號主義進行特徵工程。

github(github.com):@chouxianyu

github pages(github.io):@臭鹹魚

知乎(zhihu.com):@臭鹹魚

(cnblogs.com):@臭鹹魚

b站(bilibili.com):@絕版臭鹹魚

李巨集毅機器學習課程筆記 1

機器學習 自動找函式 f input output 1.regression 輸出是乙個數值 2.classification 分類 二分類 多分類 rnn 迴圈神經網路 cnn 卷積神經網路translation 繪二次元圖4.supervised learning 監督學習labeled dat...

李巨集毅機器學習 學習筆記

function set就是model 機器學習3大步驟 1.定義模型 function 集合 2.指定模型 function 好壞的評價指標 3.通過演算法選擇到最佳的模型 function alphago下棋模型抽象為棋局向下一步的分類問題 減少擁有label的data用量的方法 1.semi ...

李巨集毅機器學習課程總結 4

卷積神經網路是深度學習網路中的一種,被廣泛應用在影像處理中。其實對於影象處理方面的問題,使用全連線前饋網路也能實現近似的效果,但是cnn較全連線前饋網路更進一步簡化了神經網路的構架,是人們通過影象處理的特徵和總結出來的經驗進行簡化的,具體特徵是 有一些紋理比整張小得多,某些紋理並不需要看整張就能夠被...