一天搞懂深度學習 深度學習簡介

2022-05-16 21:28:29 字數 945 閱讀 3570

前言

《一天搞懂深度學習》是乙個300多頁的ppt,是台灣學者李巨集毅寫的。雖然對於深度學習也有一定的了解了,但是有些知識點還是會經常忘記。溫故知新,所以決定重看這本算是入門書籍吧。

一、深度學習介紹

(1)神經網路主要有三個部分:定義模型函式->判斷模型函式好壞->選擇乙個最好的函式

1、神經網路之所以叫神經網路是因為它的作用過程很像神經單元。以下是神經元結構。

2.因為神經元之間連線方式的不同,就延伸出了許多種不同的神經網路。

比如全連線前向神經網路。這個網路的特點是前一層的每個神經單元都與下一層的所有的神經單元連線。

3.判斷模型函式的損失,最關鍵的就是要定義模型的損失函式,當我們確定了模型的損失函式,那麼我們的目標就是最小化這個損失。進一步的說,選擇最好的模型引數過程也變成求最小化損失函式的引數過程。

4.選擇最好的模型引數。採用列舉法顯然是不可行的。一種有效的選擇模型引數的方法是梯度下降法。但是梯度下降法並不能保證會到達全域性最小,它經常會陷入區域性最小的情況,這取決於初始點的選擇。在深度學習中梯度下降演算法的應用有乙個特別的名字後向傳播演算法。後向傳播演算法其實就是乙個利用梯度下降不斷更新神經網路中不同神經節點的權重的過程。

二、深度學習為什麼深

(1)深度學習為什麼深

1.毫無疑問,引數越多,模型訓練的效果會更好。但是有理論已經證明了單隱層有足夠多的神經單元的話可以實現任意函式。但是實際上單隱層內隨著節點單元的數量增多,準確率提公升的太慢,並且可能不公升反降。

2.相比於用單隱層進行訓練,深度神經網路表示函式的方式更加的簡潔。

3.構建深度神經網路有利於模組化訓練過程,這樣或許我們就可以利用較少的訓練資料來達到想要的效果。

三、深度學習初探

(1)可以使用keras和tensorflow進行模型訓練

一天搞懂深度學習

部落格 整個ppt的思維導圖如下,為深度學習導論 讀李巨集毅 1天搞懂深度學習 神經網路的思想 於對人腦生理上的研究。人類智慧型最重要的部分是大腦,大腦雖然複雜,它的組成單元卻是相對簡單的,大腦皮層以及整個神經系統,是由神經元細胞組成的。而乙個神經元細胞,由樹突和軸突組成,它們分別代表輸入和輸出。連...

深度學習簡介(一)

注 非原創,用於自我學習 神經網路已經出現很多年,為什麼最近廣泛應用起來 大資料計算機能力的增強 dl分類 普通dl 全連線 1 d序列模型 rnn,lstm gpu 影象模型,2 d,3 d,cnn其它類別 無監督學習,增強學習。趨勢 端到端學習 端到端學習並不能解決所有事情。拿語音識別舉例 傳統...

深度學習導論 讀李巨集毅《1天搞懂深度學習》

先引用他人關於李巨集毅教授關於深度學習導論的ppt,應該非常容易入門。1天搞懂深度學習 300多頁的ppt,台灣李巨集毅教授寫的,非常棒。不誇張地說,是我看過最系統,也最通俗易懂的,關於深度學習的文章。密碼 3mty 廢話少說,先上乾貨,整個ppt的思維導圖如下 作者非常淺顯的指出機器 深度 學習過...