Keras中LSTM使用過程中的幾個易混點

現在dl學習的過程已經越來越簡單的了，儘管很多時候真的只是呼叫api即可，但遇到需要定製的需求，這時候就需要清晰理解各個注意點，這裡記錄下lstm api使用中的幾處筆記。

1、lstmcell類和lstm類的區別

解答：lstmcell類是對lstm單個計算單元的完整封裝，裡面包含了各個計算步驟的詳細過程，在lstm層中用作實際計算單元。而lstm類是抽象類rnn的子類，通過例項化lstmcell來完成lstm的計算。簡單來說，lstmcell類是lstm的「心」，而lstm類是lstm的「殼」（比喻不一定恰當）。

2、lstm中的return_sequences和return_state的區別？

解答：return_sequence返回每個時間步上的隱狀態（hidden state），return_state返回最後乙個時間步上的隱狀態和細胞狀態（hidden state和cell state）。

y = lstm(units=self.rnn_units)(x) 
tensor("lstm_1/tensorarrayreadv3:0", shape=(?, 128), dtype=float32)
y = lstm(units=self.rnn_units, return_sequences=true)(x) 
tensor("lstm_2/transpose_2:0", shape=(?, ?, 128), dtype=float32) 
y = lstm(units=self.rnn_units, return_state=true)(x) 
[, , ] 
y = lstm(units=self.rnn_units, return_sequences=true, return_state=true)(x) 
[, , ]

3、lstm中activation和recurrent_activation的區別？

解答：recurrent_activation是針對三個門機制（遺忘門、輸入門、輸出門）的啟用函式，而activation是針對輸入資訊（預設tanh）和當前隱狀態輸出（預設tanh）的啟用函式。

4、lstmcell類和lstm類分別如何使用？

rnn(lstmcell(32))

lstm(32)

這2者等價

5、lstm(32)呼叫關係的簡單分析

解答：step1：例項化lstmcell()和呼叫執行。

step2：根據各個引數確定output_shape大小（比如return_state）

step3：呼叫tf（假定後端使用tf）後端k.rnn()

step4：後端tf中呼叫control_flow_ops.while_loop（位於control_flow_ops.py檔案中）

下面最後乙個呼叫關係比較複雜，暫還沒看懂。

6、keras使用過程中，activation等引數接受字串值，keras是如何實現真正呼叫到相應啟用函式的？

解答：在activations.py中呼叫globals()函式，獲取到當前py模組中全域性變數對映，其中各個啟用函式的名字和啟用函式本身存在kv的對映關係。直接get啟用函式名稱字串就能得到啟用函式本身。這其實是一種「反射」機制。

-- 未完待續 --

Keras中LSTM使用過程中的幾個易混點

element ui dialog使用過程中的坑

python使用過程中問題

Spring data Jpa使用過程中遇到的坑

Keras中LSTM使用過程中的幾個易混點

element ui dialog使用過程中的坑

python使用過程中問題

Spring data Jpa使用過程中遇到的坑

相關推薦