模式識別概論(4)無監督學習

2021-08-20 15:10:59 字數 496 閱讀 5868

1,k-means演算法

(1)從所有的n個訓練資料中選取k個資料作為初始的聚類中心。

(2)計算所有樣本與每個中心的距離,並按照距離最小的原則進行類別分配。 

(3)用每類中新的資料重新計算聚類中心。 

(4)不斷重複步驟(2)-(3)進行迭代,直到滿足終止條件為止。 

最小化代價函式:j = σς(xij - cj)^2,第乙個σ是對所有樣本求和,第二個σ是每個樣本對所有聚類中心的距離求和,i代表樣本序號,j代表聚類序號,cj代表第j個聚類的聚類中心

2,主成分分析(pca)演算法

目的:將原始高維資料向方差變化最大的若干個方向進行投 影得到低維表示

步驟: 

(1)對每個向量進行去均值: 

(2)將去均值後的資料組成d×n的矩陣 ,然後計算得到d×d的協方差矩陣,d是特徵維數,n是樣本個數:

(3)計算矩陣c的特徵值,按從大到小排序為 , 並計算相應的特徵向量

(4)假設資料需要降到的維數為k(k

無監督學習概論

3.機器學習三要素 4.無監督學習方法 機器學習或統計學習一般包括監督學習 無監督學習 強化學習 無監督學習 從無標註資料中學習模型的機器學習問題 聚類是將樣本集合中相似的樣本 例項 分配到相同的類,不相似的樣本分配到不同的類。降維是將樣本集合中的樣本 例項 從高維空間轉換到低維空間。降維可以幫助發...

有監督學習和無監督學習 無監督學習

一.無監督學習包含的演算法 聚類 kmeans聚類演算法 降維 pca 之所以叫無監督學習 是因為模型是從無標籤的資料開始學習,沒有目標值。二.kmeans聚類 1.聚類演算法步驟 定義 將高維資料轉化為低維資料的過程,在此過程中可能會捨棄原有資料,創造新的變數 作用 降低原始資料的維數 複雜度 損...

無監督學習與監督學習

1.無監督和有監督的理解方法有很多,主要可以從以下幾方面來理解 1 無監督與監督學習的區別在於乙個無教學值,乙個有教學值。但是,個人認為他們的區別在於無監督學習一般是採用聚簇等演算法來分類不同樣本。而監督學習一般是利用教學值與實際輸出值產生的誤差,進行誤差反向傳播修改權值來完成網路修正的。但是無監督...