深度學習在嵌入式裝置上的應用

2021-09-11 09:14:24 字數 1932 閱讀 8842

下面來**一下深度學習在嵌入式裝置上的應用,具體如下:

1、深度學習的概念源於人工神經網路的研究,包含多個隱層的多層感知器(mlp) 是一種原始的深度學習結構。深度學習通過組合低層特徵形成更加抽象的高層表示( 屬性類別或特徵) ,以發現資料的分布式特徵表示。bp演算法是訓練多層網路的典型演算法,但實際上對於僅含幾層的網路,該訓練方法就已很不理想。深度結構( 涉及多個非線性處理單元層) 非凸目標代價函式中普遍存在的區域性最小是網路難以訓練的主要原因。

2006-2016這十年間深度學習不斷發展創新,研究價值和應用潛力不斷被挖掘發現。近年來深度學習取得驚人進展,從模型、演算法,到大規模的應用都取得了令人矚目的成果。深度學習的出現是機器學習的一次重要革命,是人工智慧發展巨大推力。人工智慧是終極目標,機器學習是實現人工智慧的一種分支,深度學習隸屬於人工神經網路體系,人工神經網路是基於統計的機器學習方法,相比於基於人工規則的專家系統,表現優異。傳統的神經網路是一種淺層機器學習,深度學習是傳統神經網路發展下的新一代神經網路。深度學習是通過建立、模擬人腦的資訊處理神經結構來實現對外部輸入的資料進行從低階到高階的特徵提取,從而能夠使機器理解學習資料,獲得資訊。

2、嵌入式系統

嵌入式系統是用來控制處理外部世界各種中斷訊號的計算機系統,嵌入式系統被定義為以應用為中心、以計算機技術為基礎、軟體硬體可裁剪、適應應用系統對功能、可靠性、成本、體積、功耗嚴格要求的專用計算機系統。進入20世紀90年代,嵌入式技術全面展開,目前已成為通訊和消費類產品的共同發展方向。在通訊領域,數字技術正在全面取代模擬技術。在廣播電視領域,美國已開始由模擬電視向數碼電視轉變,歐洲dvb( 數字電視廣播) 技術已在全球大多數國家推廣。數字音訊廣播(dab) 也已進入商品化試播階段。而軟體、積體電路和新型元器件在產業發展中的作用日益重要。所有上述產品中,都離不開嵌入式系統技術。維納斯計畫生產機頂盒,核心技術就是採用32位以上晶元級的嵌入式技術。在個人領域中,嵌入式產品將主要是個人商用,作為個人移動的資料處理和通訊軟體。由於嵌入式裝置具有自然的人機互動介面,gui螢幕為中心的多**介面給人很大的親和力。基於嵌入式裝置的手寫文字輸入、語音撥號上網、收發電子郵件以及彩色圖形、影象已取得初步成效。

3、經典的深度學習網路

經過多年的發展,深度學習在影象處理、語音識別、文字處理等多領域得到了廣泛的應用。以卷積神經網路、深度置信網路和遞迴網路為核心的深度學習模型體系逐漸形成。卷積神經網路(convolution nerual net,cnns) 通過結合區域性感知區域、共享權重

、空間或時間上的池化降取樣三大特點來充分利用資料本身包含的區域性性等特徵,優化網路結構,並且保證一定程度上的位移的不變性。它的權值共享網結構相似於生物神經網路 ,降低了網路模型的複雜度,減少了權值的數量。因為這樣的結構特點使其尤其適合大影象資料的機器學習,可以使數量龐大的影象識別問題不斷降維。cnns的主要結構包括卷積部分和全連線部分。卷積部分包括卷積層、啟用層、下取樣層,通過卷積部分的疊加提取特徵; 全連線部分連線特徵提取和輸出計算損失和完成識別分類等功能。

4、深度置信網路

深度置信網路的基本結構單元是受限玻爾茲曼機 (restricted boltzmann machine,rbm)。受限玻爾玆曼機通過學習資料的概率密度分布提取抽象特徵。深度置信網路通過rbm的疊加,逐層學習資料概率分布,即提取多種概率特徵。rbm訓練過程分為無監督訓練階段和微調階段。無監督貪婪逐層訓練方法獲得各層的條件概率分布,微調階段包括利用帶標籤資料和bp演算法對網路引數進行調整。rbm具有高靈活性,容易拓展,不僅在影象處理、語音識別領域網路預訓練中應用廣泛,也是構建新型深度學習網路的結構基礎。

5、遞迴神經網路

遞迴神經網路會對上一層的資訊進行記憶,新增到當前層的計算輸出中,在結構中體現為隱層間有節點相連。遞迴神經網路是非常強大的動態系統,通常用於描述動態時間行為序列,使狀態資料在網路中迴圈傳遞,它更擅長語音文字資訊,一次處理乙個輸入序列元素。每個節點同時包括過去時刻序列元素的歷史資訊,一般採用時間反傳 (backpropagation through time,bptt)訓練演算法來解決非長時依賴問題。

6、深度學習在嵌入式裝置上的應用

什麼是嵌入式裝置? 嵌入式裝置的定義

區別於通用計算機的其他裝置都可以稱之為嵌入式裝置 個人電腦,伺服器 一段時期內,必備的硬體配置。底層驅動開發 關鍵字 bsp 嵌入式linux wince vxworks 上層應用開發 關鍵字 posix jd以嵌入式linux系統開發為例 熟悉常見外設,匯流排的linux驅動開發 微控制器,m3,...

如何控制嵌入式裝置上的通訊?

即使在物聯網時代的今天,你仍然需要通過本地連線來訪問和控制你的嵌入式裝置。出於安全考慮,你不一定想要通過網路來做一些關鍵的配置或者資料傳輸。亦或,你的裝置需要乙個特殊的維護介面。在這篇文章中,我將會分享通過usb 和你的嵌入式裝置通訊的方法。在我們開始之前,讓我來解釋一些術語 在本文中,我將會討論u...

如何控制嵌入式裝置上的通訊?

和你的嵌入式裝置通訊的方法。在我們開始之前,讓我來解釋一些術語 在本文中,我將會討論usb 主機 和 客戶端 主機 是指用於連線你嵌入式裝置的電腦,客戶端 則是你的嵌入式裝置。並且,我會討論只在 windows ce 中的一些方法。linux 也提供類似的方法。韜睿預先編譯好的 windows ce...