閱讀小結 NIC模型

2021-08-29 01:36:49 字數 1237 閱讀 9354

立了人生第二個flag,每週**,一周至少一篇閱讀小結。

人與人的根本區別在於自律能力。

**閱讀遵循彭明輝教授的指導。研一的主要**閱讀目的為解決問題(2a)(2b),即在這個領域最常被引述的方法有哪些?這些方法可以分成哪幾個主要派別?what:

1、提出乙個生成模型,這個模型可以生成描述的自然語句。

2、(image)輸入cnn,輸出再輸入生成語言網路rnn,最後得到乙個完整的描述語句。

lstm在t

tt時刻有兩個輸入:①當前輸入xtx_

xt​;②反饋回的mt−

1m_mt−1​。

在t −1

t-1t−

1時刻的輸出mt−

1m_mt−1

​通過三個門反饋給網路。

該模型包括encoder-decoder兩個部分。其中encoder使用cnn提取特徵,cnn可以使用vggnet、googlenet等網路;decoder使用lstm網路生成句子。

decoder(如圖)第一步,輸入為經過卷積神經網路提取的影象特徵;其後的輸入為每個單詞的向量表達。對於每個單詞首先通過one-hot向量表示,在通過詞嵌入模型,變成和影象特徵相同維度的向量。

【p.s.】詞嵌入模型是nlp中語言模型與表徵學習技術的統稱。概念上它是指把乙個維度為所有詞的數量的高維空間,嵌入到乙個維數低很多的連續向量空間,每個單詞或片語被對映為實數域上的向量。

1、bleu-1、bleu-4、meteor、cide有很高。

改進之後的nicv2指標更高

SAT閱讀題型小結

sat閱讀考試總文章所涉及的領域有 社會科學 人文 自然科學或 每次必有一篇。短文章每篇 對比閱讀算兩篇大約100詞左右,每篇文章會出2道題目 對比文章4道。長文章或文章組每篇 組總詞數介於400到800之間 寫作目的題 主旨理解題 理解推斷題 劃線部分理解題 細節理解和功能描述 語氣 態度和語言題...

14 模型,又見模型 小結

1.bus type,device,device driver的關係?1 bus type有兩個kset成員,struct kset drivers struct kset devices 分別表示它連線在這個匯流排上的裝置列表和註冊在這個匯流排上的驅動列表。2 device有兩個成員 struct...

FM模型小結

fm是乙個不得不提的演算法,將部分筆記內容整理到部落格,內容文字不甚成系統,只作為記錄點撥之用。從特徵組合說起 對邏輯回歸最樸素的特徵組合就是二階笛卡爾積,但其中也有問題所在 兩兩組合導致維度災難 組合後特徵並不見得都有效,通常大量無效特徵 組合後特徵樣本非常稀疏,如果樣本中不存在對應組合,則無法學...