knn演算法思想和優缺點

2021-10-02 00:17:01 字數 452 閱讀 5478

knn演算法的描述:

(1)計算測試資料與各個訓練資料之間的距離;

(2)按照距離的遞增關係進行排序;

(3)選取距離最小的k個點;

(4)確定前k個點所在類別的出現頻率

(5)返回前k個點**現頻率最高的類別作為測試資料的**分類。

演算法優點:

(1)簡單,易於理解,易於實現,

1、knn可以處理分類問題,同時天然可以處理多分類問題,比如鳶尾花的分類,knn還可以處理回歸問題,也就是**

準確度高,對異常值不是很敏感

**演算法缺點:

1、效率低,因為每一次分類或者回歸,都要把訓練資料和測試資料都算一遍,如果資料量很大的話,需要的算力會很驚人

knn對於多維度的資料處理也不是很好,看似相近的兩個點之間,距離越來越大

KNN演算法,K聚類的優缺點

適用資料範圍 數值型和標稱型 目標變數的結果只在有限目標集中取值,如真與假,標稱型目標變數主要用於分類 優點 簡單,易於理解,易於實現,無需引數估計,無需訓練 對異常值不敏感 個別噪音資料對結果的影響不是很大 適合對稀有事件進行分類 適合於多分類問題 multi modal,物件具有多個類別標籤 k...

反向傳播思想及其優缺點

計算出輸出與標籤間的損失函式值,然後計算其相對於每個神經元的梯度,根據梯度方向更新權值。1 將訓練集資料輸入到ann的輸入層,經過隱藏層,最後達到輸出層並輸出結果,這是ann的前向傳播過程 2 由於ann的輸出結果與實際結果有誤差,則計算估計值與實際值之間的誤差,並將該誤差從輸出層向隱藏層反向傳播,...

演算法的優缺點 邏輯回歸演算法的優缺點

邏輯回歸演算法是最經典的幾個機器學習演算法之一,本文對它的優點,缺點進行總結。sigmoid函式 表示式如下 1.實現簡單,廣泛的應用於工業問題上 2.分類時計算量非常小,速度很快,儲存資源低 3.便利的觀測樣本概率分數 4.對邏輯回歸而言,多重共線性並不是問題,它可以結合l2正則化來解決該問題 5...