DEEP GRAPH INFOMAX閱讀筆記

2021-10-22 21:11:38 字數 1109 閱讀 9314

deep graph infomax

dgi是一種無監督方式學習圖結構節點表示的通用方法,依賴於最大化區域性表示與相應的全域性表示之間的互資訊。dgi不依賴於隨機遊走,因為隨機遊走以圖結構資訊為目標,過分強調鄰近資訊,而且依賴於超引數。

定義的全域性是區域性資訊的拼接

dgi是dim在圖上的應用

dim訓練編碼器模型,以最大化高階「全域性」表示和輸入的「區域性」(例如影象的補丁)之間的相互資訊。 鼓勵編碼器攜帶在所有位置都存在的資訊型別(因此是全域性相關的),例如類別標籤的情況。比卷積捕獲的結構更加通用

對比方法的關鍵實現細節是如何繪製正樣本和負樣本。 上面關於無監督圖表示學習的先前工作依賴於區域性對比損失(強制近端節點具有相似的嵌入)。

這樣對比能學習到遠距離的結構相似資訊。目標是通過圖建立相似節點間的鏈結

學習出乙個encoder

通過腐蝕函式對負樣本進行取樣

通過將輸入圖傳給編碼器來獲得表示hi(正樣本)

通過負樣本傳給編碼器來獲得表示hj(負樣本)

通過讀出函式獲得全域性的表示(平均正樣本的表示)

通過判別器和loss進行更新

這篇**是dmi在graph上的乙個應用,取得了比較好的效果

引用文獻

[1]

《Elasticsearch 權威指南》閱讀筆記

原文 elasticsearch 權威指南 技術上來說,乙個主分片最大能夠儲存 integer.max value 128 個文件,但是實際最大值還需要參考你的使用場景 包括你使用的硬體,文件的大小和複雜程度,索引和查詢文件的方式以及你期望的響應時長。索引在預設情況下會被分配5個主分片 如果你的資料...

HashSet HashMap 原始碼閱讀筆記

hashcode 與 equals 應一起重寫,在hashmap 會先呼叫hash key.hashcode 找到對應的entry陣列位置 一般初始是16,2 x,rehash後會翻倍 再在這個entry鍊錶上equals判斷是否存在相同元素。所以當重寫equals時沒保證hashcode出的值的一...

librdkafka 配置相關原始碼閱讀筆記

支援配置項介紹 相關api name 配置項的名稱,例如 queue.buffering.max.messages type 配置項的取值型別,例如字串 整型等。這是乙個列舉,其定義如下 define rk field offsetof rd kafka conf t,field define rk...