第一章 迴圈神經網路簡介

2021-08-22 02:48:56 字數 755 閱讀 8554

1)簡單介紹

我們知道在機器學習領域中,傳統的神經網路模型是從輸入層到隱藏層再到輸出層,層與層之間是全連線的,而每層之間的節點是無連線的,它的弊端我在這裡就不再贅述。我們主要介紹rnn,他為什麼稱為迴圈神經網路呢?因為它的每乙個輸出序列都與前面的輸出序列有關。具體表現在該網路會記錄前面的資訊並應用到當前輸出的計算中,也就是說各隱藏層之間是有連線的,它的模型如下:

2)rnn能做什麼?

rnn在nlp中的應用是非常成功的,如詞向量表達、語句合法性檢查、詞性標註等。

語言模型與文字生成(language modeling and generating text)

機器翻譯(machine translation)

語音識別(speech recognition)

影象描述生成(generating image descriptions)

3)常見的rnn模型

****** rnns(srns)

bidirectional rnns(雙向網路)

deep(bidirectional)rnns

esns(回聲狀態網路)

grus

lstms

cw-rnns:是一種使用時鐘頻率來驅動的rnns

第一章(1) 神經網路如何工作

恢復內容開始 1.1 尺有所短,寸有所長 問題計算機 人類快速的對成千上萬的大數字進行計算 簡單困難 在一大群人的 中尋找面孔 困難簡單 1.2 器 1.所有有用的計算機系統都有乙個輸入和輸出,並在輸入和輸出之間進行某種型別的計算,神經網路也是如此。2.機器接受了乙個輸入,並作出應有的 輸出結果。我...

第一章 簡介

執行緒的優勢 發揮多處理器的強大能力 由於基本的排程單位是執行緒,因此如果在程式中只有乙個執行緒,那麼最多同時只能在乙個處理器上執行。在雙處理器系統上,單執行緒的程式只能使用一半的cpu資源,而在擁有100個處理器的系統上,將有99 的資源無法使用。在gui應用,執行緒可以提高使用者介面的響應靈敏度...

第一章(簡介)

技術手段 包含運用虛擬專用網路 virtual private network vpn 加密協議,入侵檢測系統 intrusion detection system ids 入侵防禦系統 instrusion prevention system ips 訪問控制列表 access control l...