域適應方法 解決目標任務資料不足

2021-10-09 19:16:28 字數 2304 閱讀 6260

域適應是對於存在一些有少量或者沒有標註資料的領域完成針對性任務的乙個有效手段,目前對於很多任務只要有大量標註資料都能達到比較好的效果,然而標註資料的成本是高昂的,尤其是對某些專業性強的術語多的領域,標註就更困難。因此如何將已經在別的領域訓練過得模型用到其他領域非常值得研究。

01 域適應情感分類**:improving domain-adapted sentiment classification by deep adversarial mutual learning,aaai2020

以往的學習方法是特徵提取器只在源域學習,缺乏目標域的學習,作者提出一種基於深度對抗學習的域適應情感分類方法,使用域識別器保證特徵提取器可以獲得域不變特性,標籤探測器通過每組的分類器生成的情感**探索目標域中的情感極性並指導特徵提取器在每個組中的學習。

02 多源域適應視覺的情感分類模型:multi-source domain adaptation for visual sentiment classification, aaai2020

在多個源域中訓練覆蓋面更廣的特徵,提出多源感知生成對抗網路(msgan),以建立統一的情緒潛在空間,使來自源域和目標域的資料具有相似的分布,用於多維情感分類。為了處理來自多源域的資料,模型尋找乙個統一的情感潛在空間,在這個空間中,源域和目標域的資料共享乙個類似的分布,這是通過端到端的迴圈對抗學習來實現的。並有影象重建、影象轉換和迴圈重建三個管道。

03 多源自適應情感分類:multi-source domain adaptation for sentiment classification with granger causal inference,sigir2020

提出了一種基於granger-causal目標(mda-gc)的多源域適應方法用於跨域情緒分類。對於每個源域,使用一種情感引導膠囊網路來建立乙個專家模型,捕捉域不變知識,以彌補源域和目標域之間的知識缺口。然後,設計了一種注意機制,為專家分配重要性權重,每個專家都專攻不同的源域。設計granger因果目標,使分配給個別專家的權重與他們對手頭決策的貢獻密切相關。

04 多源域自適應矩陣匹配:moment matching for multi-source domain adaptation,iccv2019

利用矩匹配進行多源域遷移學習,由於傳統的無監督域適應(uda)假設訓練資料是從單個域中取樣的。作者收集並注釋了迄今為止最大的uda資料集domainnet,存在顯著的領域差距和大量的類別,它包含6個域和分布在345個類別中的約60萬幅影象,解決了多源uda研究在資料可用性方面的差距。提出m3sda將多個原始檔與目標域對齊。在交叉矩發散的框架下,給出了乙個有意義的誤差界。此外,我們將動量匹配元件合併到深度神經網路中,並以端到端方式訓練模型。

05 無監督域自適應高階矩陣匹配:homm: higher-order moment matching for unsupervised domain adaptation,aaai2020

最大限度地減小不同域間特徵分布的差異是無監督域自適應最有前途的方向之一。從分布匹配的角度來看,現有的基於離散度的方法大多是針對二階或更低階的統計量設計的,而這些方法對非高斯分布的統計特性的表達是有限的,利用這一方法只能保證分布的粗擬合。使用高階統計量(主要指三階和四階統計量)進行域匹配,提出了一種高階矩匹配(homm)方法,並將其擴充套件到複製核希爾伯特空間(rkhs),通過匹配高階矩張量(主要是三階和四階矩張量)來進行域對齊,因為高階矩張量包含更多的描述固有資訊,能夠更好地表示特徵分布。homm可以進行任意階矩張量匹配,並證明了一階homm等價於mmd,二階homm等價於coral。此外,三階和四階矩張量匹配有助於實現全面的域對齊,因為高階統計量可以近似更複雜的非高斯分布。利用偽標記目標樣本來學習目標域中的域不變表示,進一步提高了遷移效能。針對目標域上缺乏標記的問題,提出了通過對可靠目標樣本分配偽標記來學習目標域上的判別聚類方法,從而提高了遷移效能。

為無監督深度領域自適應採用引數共享的雙流cnn

目標檢測 域適應的學習筆記

在基於深度學習的目標檢測任務中,訓練集與測試集樣本分佈的不一致是乙個影響模型表現的常見因素,為了使得訓練集的分布與測試集一致,我們需要採用一定的樣本增廣操作 可以看到在 第五類和第八類訓練資料較少 但是測試集中佔比不少 的問題中,我們一眼就明白,這是乙個類別分布不一致的問題 但是這是不是乙個類別不平...

解決跨域iframe自適應高度

關於iframe自適應高度的討論可以先看看口碑ued的部落格 大概原理見下圖 可以直接看示例 下面直接上 了 下面是核心 loader.js 檔案proxy.html 使用方法 一 在主頁面要包含的iframe中引入loader.js 二 傳入引數。有兩種傳參方法 1.在主頁面引用iframe的時候...

Div CSS高度自適應解決方法

轉 這幾天用div css寫 樣子 上中下,中間是個左中右3列,可這3列不是等高偏巧有不同顏色的背景,結果就是ie firefox.這些瀏覽器無一例外的現實的效果都是長短不齊,如何讓這3列可以自適應高度?除錯了半天,搜尋了一番,終於找到解決辦法了,採用 div css 進行三列或二列布局時,事先不知...