基於語義知識不等式的詞嵌入

2021-08-02 03:18:02 字數 733 閱讀 9738

文獻:liu q, jiang h, wei s, et al. learning semantic word embeddings based on ordinal knowledge constraints[c]. acl 2015: 1501-1511.

1)純資料驅動的swe有可能使得一些反義詞之間的距離比同義詞之間的距離還要小;2)語料庫的不完備(語義相近的一對詞卻在資料中較少共現)可能使得無法準確捕捉近義詞對間的關係。

將語義知識表示成條件不等式,從而可將swe形式化條件最優問題。

將所有的語義不等式si

j>si

k,∀(

i,j,

k)∈s

轉化為d=

∑(i,

j,k)

∈sf(

i,j,

k),從而可將skip-gram模型中的q函式轉變為q′

=q−β

⋅d,其中f(

i,j,

k)可以用不同的規範函式來實現。例如:sigmoid函式f(

i,j,

k)=1

/(1+

exp(si

j−si

k)) 或者 hinge函式f(

i,j,

k)=max(δ

,sij

−sik

)

積分形式的詹森不等式 均值不等式及其積分形式

摘要 本文將給出均值不等式的簡要證明並推導出其積分形式。先給出幾個定義。其中則有平均值不等式 用語言描述即是調和平均數不超過幾何平均數,幾何平均數不超過算數平均數,算數平均數不超過平方平均數。其積分形式如下 則有 均值不等式的證明方法有很多,可以使用數學歸納法 柯西不等式法 拉格朗日乘數法 琴生不等...

不等式解集怎麼取 不等式的解集怎麼求

不等式的解集怎麼求2019 09 21 10 28 28文 宋則賢 求不等式的解集可以先把各個不等式的解集表示在數軸上,觀察公共部分。然後去括號,移項,合併同類項,係數化為一時要注意到底是除以了乙個正數還是負數。一.步驟 去分母 注意乘以乙個正數的公分母,這樣就不變號 去括號,移項,合併同類項,係數...

連續不等 Young不等式的積分證明

young不等式指的是如下不等式 其中,且 這個不等式有很多種證明方法,在卓里奇 數學分析 第六章第5節的課後習題中,卓里奇給了我們乙個定積分方法。試證 a 如圖所示,設 和 是互逆的連續 非負函式,且分別在 時等於零。試證成立不等式 b 從a 匯出楊格不等式 其中 且 c 在問題a 和b 的不等式...