深度學習 《BiRNN》

2021-10-24 13:09:12 字數 519 閱讀 1423

寫此博文的時候,已經是歐洲凌晨一點了,今天一口氣寫了三篇,趁著國慶節的尾巴,趕緊搞一搞,不然等周一上班了就時間少了。

一:birnn

也就是雙向迴圈網路,之前我們學習的標準rnn,lstm,gru都是單向的,即便是我們學過多層的rnn也是單向的,每個cell只關心當前時刻和之前時刻的輸入,其實更複雜的場景下,尤其是語言環境下,我們需要關注語言的上下文,也就是需要根據為了時刻的輸出來得到當前的輸出,說白了就是不僅僅要向前看,用之前的資料參與當前的任務計算,還要向後看,用未來的輸出參與當前任務計算。

值得注意的是,在birnn裡面,這裡的每個cell都是可以標準的rnn或者是lstm cell或者是gru cell,它只是提供了在連線結構上的雙向連線罷了,每個連線還是單向的,只不過方向相反,組合起來對於輸出而言就做到了雙向的考慮。

時間太晚了,後面的部落格會給出在pytorch下實現 lstm,gru,birnn的**

深度學習(一)深度學習學習資料

持續更新 一 學習清單 1 收集了各種最新最經典的文獻,神經網路的資源列表 2 計算機視覺學習清單 3 機器學習學習清單 二 訓練資料 人臉資料 1 香港中文大學訓練資料集 此資料庫包含了20w張人臉,每張標註了5個特徵點 以及幾十種屬性 是否微笑 膚色 髮色 性別等屬性 2 68個人臉特徵點 3 ...

深度學習系列 深度學習簡介

機器學習 使用計算機系統利用經驗改善效能,是人工智慧領域的分支,也是實現人工智慧的一種手段。表徵學習關注如何自動找出表示資料的合適方式,以便更好地將輸入變換為正確的輸出。深度學習 具有多級表示的表徵方法,在每一級 原始資料開始 通過簡單的函式將該級的表示變換為更高階的表示。可以將深度學習看作多個簡單...

深度學習深度學習(一)開篇

深度學習 深度學習 記得9年前寫的一篇部落格,十年的程式設計師,一晃眼,差不多10年又快到了。這一輪的人工智慧,深度學習,他是我見到的乙個非常特殊的程式設計方式 用資料程式設計。是的,他絕對不像其他的程式語言,是完全乙個嶄新的天地,掌握她,絕對會帶來驚喜 你會發現以前感覺超級難的東西會忽然 哇,這個...