機器學習降維方法

2021-08-18 12:22:57 字數 536 閱讀 7648

由於我的畢設要用pcanet提取特徵,因此學習一下常見的機器降維方法。

1. pca 最大化對映後資料的方差(無監督)

2. lda 最小的類內間距,最大的類間間距(有監督)

原理推導:

3. 區域性線性嵌入(lle,非線性)它能夠使降維後的資料較好地保持原有 

流形結構

。它的思想就是在降維時保持區域性的線性關係。

原理推導: 

4. 拉普拉斯特徵對映

在學習拉普拉斯矩陣的時候,涉及到圖的概念,所以先學習一下圖吧·····

邏輯結構

分為兩部分:v和e集合。因此,用乙個一維

陣列存放圖中所有頂點資料;用乙個二維陣列存放頂點間關係(邊或弧)的資料,這個二維陣列稱為鄰接

矩陣。鄰接矩陣又分為

有向圖鄰接矩陣和

無向圖鄰接矩陣。

無線圖的鄰接矩陣一定是對稱矩陣,頂點n的度就表示為n行非零元素的個數和

原理推導: 

在其中,涉及廣義特徵值的概念 ,矩陣論的知識快忘完了~~~ax=λbx ,以後慢慢看吧~~

機器學習降維方法

特徵降維方法包括 lasso,pca,小波分析,lda,奇異值分解svd,拉普拉斯特徵對映,sparseautoencoder,區域性線性嵌入lle,等距對映isomap,embedding。lasso least absolute shrinkage and selection operator,...

機器學習降維方法概括

最近刷題看到特徵降維相關試題,發現自己了解的真是太少啦,只知道最簡單的降維方法,這裡列出了常見的降維方法,有些演算法並沒有詳細推導。特徵降維方法包括 lasso,pca,小波分析,lda,奇異值分解svd,拉普拉斯特徵對映,sparseautoencoder,區域性線性嵌入lle,等距對映isoma...

機器學習降維方法概括

目錄 lasso通過引數縮減達到降維的目的 主成分分析pca 小波分析 線性判別lda 拉普拉斯對映 深度學習sparseautoencoder 矩陣奇異值分解svd lle區域性線性嵌入 isomap等距對映 最近刷題看到特徵降維相關試題,發現自己了解的真是太少啦,只知道最簡單的降維方法,這裡列出...