深度學習概述

2021-10-10 21:40:20 字數 1517 閱讀 4615

問題(模型引數w)

訓練(不斷訓練引數w的取值)

模型(得到模型)

分類/判別

結果deep learning是一種實現機器學習的技術,是機器學習重要的分支。其源於人工神經網路的研究。深度學習模型結構是一種含多隱層的神經網路。通過組合底層特稱形成更加抽象的高層特徵。

資料集的定義

資料集在數學上通常表示為的形式:。

tips:通俗的點解釋,相當於乙隻寶可夢有多種屬性,每個屬性有對應的特徵值。

類別標籤的ground truth與gold standard

ground truth: 表示通過直接觀察收集到的真實結果。
tips:在機器學習領域,更傾向於使用「ground truth」 。而如果用 gold standard這個詞,則表示其可以很好地代表ground truth。

留出法( hold‐out method )

將資料隨機分為兩組,一組做為訓練集,一組做為測試集

利用訓練集訓練分類器,然後利用測試集評估模型,記錄最後的分類準確率為此分類器的效能指標

優點:劃分簡單。缺點:在測試集上的**效能的高低與資料集拆分情況有很大的關係。

k折交叉驗證

分層抽樣策略(stratified k‐fold)

用網格搜尋來調超引數(二)

確定評價指標

對於超引數取值的每種組合,在訓練集上使用交叉驗證的方法求得其k次評價的效能均值;

最後,比較哪種超引數取值組合的效能最好,從而得到最優超引數的取值組合。

-均方根差rmse: 是mse的平方根

假設兩評委(rater)對5部電影的評分如下,則二者的一致如何?

rater1 = [0.5, 1.6, 2.5, 2.5, 2.4]

rater2 = [1.5, 2.6, 3.5, 3.5, 3.4]

取值區間為[‐1,1]。‐1: 完全的負相關,+1: 表示完全的正相關,0:沒有線性相關

深度學習概述

深度學習概述 1.深度學習定義 深度學習 deep learning 起源於人工神經網路,它的定義 通過組合低層特徵形成更加抽象的高層特徵或類別,從而從大量的輸入資料中學習有效特徵表示,並把這些特徵用於分類 回歸和資訊檢索的一種技術。何謂為深度 網路學習得到的函式中,非線性運算組合水平的數量。2深度...

深度學習概述

rnn,recurrent neural network,迴圈神經網路。在rnn中,神經元的輸出可以在下乙個時間戳直接作用到自身,即第i層神經元在m時刻的輸入,除了 i 1 層神經元在該時刻的輸出外,還包括其自身在 m 1 時刻的輸出。適用場景 自然語言處理 語音識別 手寫體識別等。因為樣本出現的時...

深度學習概述

part 5 深度學習的應用 part 6 總結與展望 文章 常虹,山世光.深度學習概述 j 資訊科技快報.深度學習是相對於svm knn gradient boost等淺層學習演算法而言的。深度是指乙個流向圖 flow graph 從輸入到輸出所走的最長的路徑。例如svm深度為2,第一層是核輸出或...