基於深度機器學習演算法DBNs的風險識別模型

2021-07-09 12:16:46 字數 1926 閱讀 8021

前言:最初關注深度機器學習是聽了nus的汪晟博士關於深度機器學習平台signa的介紹,當時就發現深度機器學習是人工智慧的乙個革新的進步。但是由於從事的雲計算和大資料方向的工作,所以平時只是作為自己的興趣領域看了一些相關的入門級資料。最近事業部的同事在討**物保護的風險識別問題,不自覺地想到能否將深度機器學習運用到文物保護的風險識別中,於是做了一些較深入的研究,設計了乙個基於深度機器學習dbn演算法的風險識別模型。

一、傳統機器學習與深度機器學習

二、deep belief networks深信度網路

depp belief networks(dbn)深信度網路也是加拿大多倫多大學教授、機器學習領域的泰斗geoffrey hinton在一篇文章中提出的,乙個經典的dbn神經網路如圖1。dbn相比於傳統的機器學習演算法如svm、聚類演算法、決策樹等有乙個更加智慧型等優勢,就是dbn可以自主的在訓練過程中發現樣本資料之間的關聯關係和規律,並會通過調節自身的權重值來持久化發現的關聯關係和規律。

(圖1 )

dbns是乙個概率生成模型,與傳統的判別模型的神經網路相比,概率生成模型是建立乙個觀察資料和標籤之間的聯合分布,對p(observation|label)和 p(label|observation)都做了評估,而判別模型僅僅評估了p(label|observation)。對應到上圖就是p(v|h)和p(h|v),輸入值v通過p(v|h)可以得到隱藏層h,而經過引數值調整之後隱藏層h通過p(h|v)可以得到乙個與之前輸入值近似的(理論上是完全一樣)v1,這樣隱藏層就可以作為乙個特徵模型(類似於卷積演算法中的卷積核)存在,也就能對輸入值進行識別。

dbns的核心元件就是rbm(限制玻爾茲曼機),限制玻爾茲曼機是一種特殊型別的馬爾科夫隨機場,它含有一層隨機隱藏單元和一層隨機可見單元。rbm能表示乙個二分圖,所有可見的單元鏈結到所有隱藏單元,而且沒有可見—可見或者隱藏—隱藏之間的鏈結。具體解釋就是所有的隱藏層的輸入都作為可見層的輸入,所有可見層的輸入都作為隱藏層的輸入,那麼在經過多層的rbm之後,如果最終得到的v1和v值近似相同,那麼我們就可以到乙個識別模型,通過在最高層加入監督學習進行最優權重的調整就可以得到乙個比較完美的識別模型。

三、基於深度機器學習dbn演算法的風險識別模型

在進行風險識別的機器學習模型訓練中,傳統的機器學習演算法往往會遇到乙個無法解決問題的,那就風險樣本資料不足,能夠提取的特徵有限。因為在正常的生產環境中,無害資料遠遠大於有害資料,而基於統計學的傳統機器學習演算法只有在大量的、高質量的樣本資料訓練下才能得到比較理想的識別模型。基於深度機器學習dbn演算法的風險識別模型的思想是使用可以使用有限無害資料進行訓練,通過多層神經網路(rbm)的迭代來進行多維度、多層次的學習,這來快速的增加學習得到特徵數量,這種通過rbm疊加進行貪婪逐層學習的方法在很多領域都取得了很好的效果。下圖2是基於dbn演算法風險識別的訓練模型。

(圖2)

在完成風險識別模型的訓練後,就會形成乙個穩定的神經網路。這個神經網路是會自動進行更新學習的,就像人在學習到新的之後會覆蓋掉原來舊的或者錯誤的知識一樣。完成訓練的風險識別模型如下圖3:

(圖3)

其中y1,y2,y3是進行監督學習時的標籤神經元,w1,w2,w3是經過監督學習的bp演算法後得到的最優權重值,h1,h2,h3,h4則是隱藏層的神經元,v1,v2,v3,v4是視覺化層的神經元。

經過訓練的dbn神經網路就可以作為風險識別模型進行風險的識別,風險識別模型的工作流程如下圖4:

(圖4)

機器學習and 深度學習 and 優化演算法

ssh keygen t rsa c 我的ssh金鑰 將 我的金鑰 替換為新的自己命名的就行,然後github建倉進行ssh繫結 git remote v 檢視遠倉庫 git remote set url origin git github.com username newrepo.git 切換到自...

基於深度學習場景分類演算法

目前出現的相對流行的場景分類方法主要有以下三類 1 基於物件的場景分類 這種分類方法以物件為識別單位,根據場景中出現的特定物件來區分不同的場景 基於視覺的場景分類方法大部分都是以物件為單位的,也就是說,通過識別一些有 代表性的物件來確定自然界的位置。典型的基於物件的場景分類方法有以下的中間步驟 特徵...

機器學習與深度學習相關演算法的學習

本人打算開始總結機器學習和深度學習的系列部落格了。以下是要總結的相關演算法的內容了,只是梗概,後期會做調整的。1 supervised technique classifications k nearest neighbour k 近鄰 bayes classification trees cart...