度量學習 筆記

2021-09-28 13:43:37 字數 597 閱讀 8420

度量學習——筆記

本文的目的僅僅是對「度量學習」做乙個簡單的解釋。

度量學習(metric learning) 是人臉識別中常用的傳統機器學習方法,由eric xing在nips 2002提出,可以分為兩種:一種是通過線性變換的度量學習,另一種是通過非線性變化的度量。其基本原理是***根據不同的任務來自主學習出針對某個特定任務的度量距離函式。***後來度量學習又被遷移至文字分類領域,尤其是針對高維資料的文字處理,度量學習有很好的分類效果。

歐氏距離、馬氏距離、曼哈頓距離、各種相似度方法等等。

knn是基於近鄰度量的一種模式分類演算法,它高度依賴於資料間的相似度度量,簡單的歐式距離在實際應用時,由於不考慮不同維度之間對分類的影響以及輸入資料資料維數高的問題,往往不能取得良好的分類效果。

knn 分類演算法雖然可以一定情況下克服資料偏斜帶來的分類誤差,但是這也是造成它對樣本密度分布敏感的主要原因,當類間密度高度分布不均時,分類效果會有較大的影響。

解決方案:要想提高knn文字分類的準確率,首先要解決的是距離度量的問題,於是我們就要用到距離度量演算法,其中的大邊界最近鄰演算法(large margin nearest neighbor, lmnn)是一類專門改進k 近鄰分類演算法的距離度量演算法。

度量學習介紹

知乎大神flood sung發表在cvpr2018上的 介紹了一種基於metric的模式識別方法,創新之處在於它不同於常用的matric based方法,使用人為定義的度量,像簡單的歐式距離 馬氏距離,而是採用了用神經網路去訓練這個度量,模型雖然簡單,但是效果卻很顯著。先說一下關於度量這個概念 在數...

度量學習(meritc learning)思考

經典 facenet a unified embedding for face recognition and clustering deep metric learning via lifted structured feature embedding 簡單總結下個人對mertic learnin...

度量學習 分類與檢索

以下純屬個人觀點,如有錯誤,請批評指正 最近用到距離度量學習了,於是乎思考了一下。距離度量學習,最終學出的是m。監督的距離度量學習,最終根據類別標記,學習出乙個好的m,來度量同一類樣本之間的相似性。這是乙個類與相似性之間的直接對應關係。因為對於分類器來說,有的是以距離作為分類標準的,距離近的就認為屬...