神經網路和深度學習第一周 深度學習概論

2021-09-17 19:45:18 字數 1381 閱讀 3763

1.2什麼是神經網路

這乙個神經元完成了函式的擬合:

relu:rectified linear unit修正線性單元:開始是0,然後上公升,修正就是取不小於0的值。

將神經元堆疊可以得到更大的神經網路:

只要給足夠的x和y,神經網路自動計算隱藏單元,我們只需要給出輸入x和輸出y:

神經網路在監督學習中非常強大

1.3 用神經網路進行監督學習

神經網路在監督學習的應用: (要機智地選擇x和y)

standard neural network:standard nn 前兩個

convolutional neural network:cnn 卷積神經網路 第三個影象領域

recurrent neural network:rnn迴圈神經網路處理一維資料序列 第四個音訊處理 涉及一維時間序列 第五個語言處理是更複雜的序列

hybrid neural network:混合神經網路 最後乙個

結構化資料是資料的資料庫,非結構化資料是指比如音訊,原始音訊,影象,文字等,這裡的特徵可能是影象中的畫素值或者文字中的單個單詞,多虧了神經網路深度學習,現在計算機也可以更好的理解非結構資料,如語音識別影象識別自然語言處理:

1.4 為什麼深度學習會興起

神經網路深度學習的技術有了幾十年了,為什麼現在才火起來呢?因為我們現在擁有海量資料,規模足夠大的神經網路可以發揮更高的效能:(橫座標是labeled data的數量m,即訓練樣本的數量) 資料規模小時演算法表現不太確定,主要取決於手工設計元件等,只有在大資料領域,神經網路穩定領先其他演算法

除了資料量和計算量的提公升,近幾年演算法也有巨大的創新。有趣的是很多創新都是為了讓神經網路執行得更快

深度學習(吳恩達) 神經網路與深度學習第一周

神經網路與深度學習 深度學習爆發的原因 吳恩達老師的深度學習課程講解詳細,很適合入門,這份筆記是我學習該課程的總結 神經網路模型是受到人腦神經元工作原理啟發而發展起來的乙個強有力的機器學習演算法。例1 單層神經網路 給定乙個資料集,該資料集是一些房子的面積與售價資料,要求建立乙個模型,在給定房子面積...

神經網路與深度學習練習題 第一周

何寬 吳恩達 神經網路與深度學習 網易雲課堂 練習題 第一周 回想一下關於不同的機器學習思想的迭代圖。下面哪 個 些 陳述是正確的?能夠讓深度學習工程師快速地實現自己的想法。在更好更快的計算機上能夠幫助乙個團隊減少迭代 訓練 的時間。在資料量很多的資料集上訓練上的時間要快於小資料集。使用更新的深度學...

深度學習第一周實戰

使用resnet18訓練cifar10 訓練一周 做報告一開始正確率多少?改進後多少?88 到96 分別改了多少引數,如果提高的?pdf結果 pytorch實戰2 resnet 18實現cifar 10影象分類 測試集分類準確率95.170 殘差網路resnet筆記 residual net 詳解 ...