lda 協方差矩陣 LDA演算法詳解

2021-10-16 15:18:26 字數 832 閱讀 4514

精品文件

線性鑑別分析法

線性鑑別分析

(linear discriminant analysis, lda)

,有時也稱

fisher

線性判別

(fisher

linear

discriminant

,fld)

這種演算法是

ronald

fisher

於年發明的,是模式識別的經典演算法

[i]。在

年由belhumeur

引入模式識

別和人工智慧領域的。

性鑑別分析的基本思想是將高維的模式樣本投影到最佳鑑

別向量空間,

以達到抽取分類資訊和壓縮特徵空間維數的效果,

投影後保證模式

樣本在新的子空間有最大的類間距離和最小的類內距離,

即模式在該空間中有最

佳的可分離性。

因此,它是一種有效的特徵抽取方法。

使用這種方法能夠使投影

後模式樣本的類間散布矩陣最大,

並且同時類內散布矩陣最小。

就是說,

它能夠保證投影後模式樣本在新的空間中有最小的類內距離和最大的類間距離,

即模式在該空間中有最佳的可分離性。

3.2.1 fisher

線性判別準則

假設有一組屬於兩個類的n個

d維樣本xx

n,其中前

n個樣本屬

於類,後面

n個樣本屬於類

,均服從同協方差矩陣的高斯分布。各類樣

本均值向量mi

i=1)如式(

3-15mi

lda 協方差矩陣 LDA演算法詳解

線性鑑別分析法 線性鑑別分析 linear discriminant analysis,lda 有時也稱 fisher 線性判別 fisher linear discriminant fld 這種演算法是 ronald fisher 於年發明的,是模式識別的經典演算法 i 在 年由belhumeur...

lda 協方差矩陣 LDA模型

lda是一種文件主題生成模型,也稱為乙個三層貝葉斯概率模型,包含詞 主題和文件三層結構。作為一種非監督機器學習技術,可以用來識別大規模文件集或語料庫中潛藏的主題資訊。它採用了詞袋的方法,這種方法將每一篇文件視為乙個詞頻向量,從而將文字資訊轉化為了易於建模的數字資訊。但是詞袋方法沒有考慮詞與詞之間的順...

詳解協方差與協方差矩陣

協方差的定義 對於一般的分布,直接代入 e x 之類的就可以計算出來了,但真給你乙個具體數值的分布,要計算協方差矩陣,根據這個公式來計算,還真不容易反應過來。網上值得參考的資料也不多,這裡用乙個例子說明協方差矩陣是怎麼計算出來的吧。記住,x y 是乙個列向量,它表示了每種情況下每個樣本可能出現的數。...