一種神經元探索系統方法及裝置

2021-09-22 07:40:01 字數 1003 閱讀 4946

發明背景與現有技術

應用背景

深度學習已經在影象分類檢測、遊戲等諸多領域取得了突破性的成績。由於人工神經網路計算量大,訓練時間長。因此,相關的硬體加速平台也在百花齊放,包括基於英偉達的gpu、谷歌的tpu、以及fpga實現的神經網路硬體平台。神經網路的結構複雜多樣、計算量大的特點,給硬體設計帶來了巨大挑戰。

原有技術及問題 

(1)傳統神經網路

基於傳統的cpu完成運算,缺點是神經網路的神經元眾多,由於單機的cpu個數限制,整個網路的平行計算效能不高。

(2)硬體加速神經網路

通常基於fpga 等可程式設計晶元,這樣的神經網路運算能力強,並行性好。但是這樣的神經網路,其硬體實現的底層神經元缺乏自適應學習和演化能力。

本發明技術方案

神經網路互連模型

如右圖,每乙個方塊表示乙個神經元,以二維硬體模型(如fpga)為例,每乙個神經元連線著另外四個神經元。整個模型有三類輸入輸出:

(1)任意輸入,每乙個輸入連線到乙個神經元上;

(2)任意輸出,每乙個輸出連線到乙個神經元上;

(3)獎勵反饋輸入,連線到所有神經元上。

此外,兩個相連神經元之間的連線為乙個或多個浮點數(用以記憶神經網路引數)儲存單元。

神經元,內部是乙個多層神經網路的結構,帶有自適應學習和演化能力

(1)多層神經網路有五個輸入:分別表示四個連線儲存單元的大小和乙個獎勵反饋訊號的大小;

(2)多層神經網路有四個輸出:四個連線儲存單元的變化率;

(3)使用優化演算法(如遺傳演算法、強化學習或者策略梯度)來優化神經網路的權重以最大化長時平均獎勵(一段時間的平均獎勵)

(4)優化的每乙個迭代使用多種不同常用機器學習問題來進行訓練。監督學習和無監督學習都需要提前轉化為強化學習問題

本發明的技術保護點

本文提出神經元探索系統設計方法,包括神經網路互連模型,帶有自適應學習和演化能力的神經元設計等

本發明有益效果

解決問題

1)神經元具備自適應學習和演化能力,可以構建結構複雜多樣的神經網路。

一種神經元探索系統方法及裝置

發明背景與現有技術 應用背景 深度學習已經在影象分類檢測 遊戲等諸多領域取得了突破性的成績。由於人工神經網路計算量大,訓練時間長。因此,相關的硬體加速平台也在百花齊放,包括基於英偉達的gpu 谷歌的tpu 以及fpga實現的神經網路硬體平台。神經網路的結構複雜多樣 計算量大的特點,給硬體設計帶來了巨...

一種聯絡人列表的顯示方法及裝置

一種聯絡人列表的顯示方法及裝置 1.一種聯絡人列表的顯示方法,其特徵在於,包括 獲取客戶端與每個聯絡人的通訊記錄 根據獲取到的所述通訊記錄,通過預設演算法確定聯絡人排序,在所述聯絡人排序中,根據最近一段第一預設時間內所述客戶端與每個所述聯絡人的通訊次數,由高至低排列所述聯絡人 按照所述聯絡人排序生成...

一種伺服器日誌管理方法及系統

摘要 本發明提供一種伺服器日誌管理方法及系統,所述方法包括 初始化軟體介面,連線資料庫 讀取並分解由服務程式的輸出所生成的記錄,以提取所述記錄的特徵引數 所述分解為將所述記錄分解成時間 時間型別 產生位置及事件內容中的一種或多種 當所述特徵引數與預設引數一致時,將所述記錄儲存到所述資料庫中 反之,丟...