深度學習基本演算法介紹

2021-10-10 04:20:54 字數 1956 閱讀 3290

本篇**主要介紹的是深度學習和植物表型,開始先介紹了深度學習的幾種方法,後來又介紹了深度學習在植物表型中的應用。總結了已經做的深度學習在植物表型領域的已有工作。

深度學習的應用方向

機器學習(以及深度學習)的概念可以應用於植物脅迫表型的四大類問題。這些類別構成所謂的「icqp」範例的一部分,首字母縮寫詞代表以下四個類別:(i)標識,(ii)分類,(iii)量化和(iv)**。

識別是指檢測特定的壓力(環境脅迫)。

分類根據壓力症狀和特徵對影象進行分類。

量化涉及壓力的定量表徵,例如疾病發生率和嚴重性,疾病發生率定義在時間刻度上或者區域刻度上發病數與總數的比值;嚴重程度為葉片或整個植物冠層上受疾病影響的植物組織面積。

**是在可見的脅迫症狀出現之前提前**植物的脅迫。

深度學習的優勢

傳統的機器學習和其他方法在乙個模型中通常分為特徵提取和決策兩個過程,也就是說必須先提取資料特徵,才能依靠這些特徵進行識別、分類、量化、**;而深度學習方法乙個模型中結合了兩個過程,通常可以利用原始資料直接訓練模型,但是,對原始資料進行處理仍有利用模型,通常處理過的資料可以縮短模型訓練時間,使用擴大資料集方法可以防止過擬合問題等,但是就準確性來說,差別不大。

流行神經網路架構

卷積神經網路

剛開始了解可以看這篇

詳細的卷積神經網路中卷積層、啟用層、池化層、全連線層的理解

各個層的作用

在卷積神經網路中,卷積層的主要作用是特徵提取,池化層的主要作用是影象壓縮或者說降維,啟用層可以用啟用函式將回歸問題轉為分類問題,全連線層則利用前面卷積層的提取特徵將影象進行分類或回歸。乙個卷積神經網路中通常有多個重複的卷積層和池化層,這是因為只進行單一的特徵提取提取的特徵不夠用來進行回歸或分類,通常進行多次降維,在多個維度上都進行特徵提取,這樣更有利於後續分類或回歸。

常見的cnn架構

粗略概述,不容易理解

介紹比較詳細,可以細看

大佬筆記

無監督的深度神經網路

典型的為深度置信網路dbn

從這個鏈結了解dbn的基本概念

這裡說一下dbn用於無監督的原因;由於在受限玻爾茲曼機(rbm)中,隱層和顯層是雙向連線的,所以我們既可以按照正常前饋神經網路那樣,建立從觀察資料到標籤的聯合分布,還可以建立從標籤到觀察資料的聯合分布,所以在rbn的訓練過程中,顯層1(v1)和引數進行計算得到隱層1(h1),再利用h1計算得到v2,再利用v2計算得到h3,一直這樣計算下去,最終隱層不僅能較為精準地顯示顯層的特徵,同時還能夠還原顯層。

參考部落格

時間序列的深度神經網路

主要介紹迴圈神將網路(rnn)和長短期記憶網路(lstm)

rnn參考

lstm參考

lstm相比於rnn新增了長期狀態一項,長期狀態由上乙個時刻的長期狀態、當前狀態共同決定。同時,長期狀態由遺忘門、輸入門、輸出門共同控制。其中輸入門決定了當前時刻網路的輸入 x_t 有多少儲存到單元狀態 c_t,是由當前的輸入資料和當前的狀態共同決定的,也就是在網路中計算輸入門時,當前狀態代表的是沒有加入當前輸入的狀態,需要這兩方面共同計算出用於計算的當前狀態。這是上面鏈結介紹中我的理解。

遷移學習

轉移學習是將從乙個問題學到的模型(和相關表示)被轉移到乙個不同但相關的問題上。在dl傳輸學習的情況下,可能涉及(i)重新使用可能涉及新資料集的新任務的整個模型(架構+引數),(ii)僅重新使用模型架構/超引數,但要從中學習引數 從頭開始使用新資料集,以及(iii)重用模型,但在根據新資料集對模型引數進行微調

遷移學習的初步理解可以看這篇

同時這篇也對cnn有一定的解釋,文中說明了隨著卷積層的增多,模型學到的特徵越來越明顯,並在較深的層中接近中的特徵,所以可以只保留前面學到的泛性的特徵,並用於遷移學習。

基本概念可以看這兩篇

深度學習介紹

深度學習與機器學習的區別 特徵提取方面 深度學習演算法試圖從資料中學習高階功能,這是深度學習的乙個非常獨特的部分。因此,減少了為每個問題開發新特徵提取器的任務。適合用在難提取特徵的影象 語音 自然語言領域 資料量 機器學習需要的執行時間遠少於深度學習,深度學習引數往往很龐大,需要通過大量資料的多次優...

深度學習入門介紹

深度學習是一種從訓練資料出發,經過乙個端到端 end to end 的模型,然後直接輸出得到最終結果的一種新模式。一般的機器學習處理流程如下 感測器獲得資料 預處理 特徵提取 特徵選擇 推理,或識別。預處理 特徵提取 特徵選擇,概況起來就是特徵表達,良好的特徵表達,對最終演算法的準確性起了非常關鍵的...

深度學習基本術語

資料集 樣本的集合 特徵 反映物體特性的事項 屬性 對樣本的具體描述 維數 特徵的種類個數 樣本空間 在維數空間中找到描述每個樣本的唯一位置 特徵向量 每個樣本的全部特徵 標籤 表示每乙個樣本的所屬型別 學習或訓練 從資料中獲得模型的過程 訓練資料 在訓練過程中所使用的資料集 訓練樣本 訓練資料中的...