機器學習 異常值檢測

2022-09-01 04:33:09 字數 904 閱讀 9908

在生產生活中,由於裝置的誤差或者人為操作失當,產品難免會出現錯誤。然後檢查錯誤對人來說又是乙個十分瑣碎的事情。利用機器學習進行異常值檢測可以讓人類擺脫檢錯的煩惱。

\[ = \sum\limits_^m }

\]\[ = \sum\limits_^m } -

\]\[p(x) = \prod \limits_^n ;,\sigma_j^2)}

\]異常檢測演算法是乙個非監督學習演算法,意味著我們無法通過結果變數判斷我們的資料是否異常。所以我們需要另一種方法檢測演算法是否有效。當我們開發乙個系統時,我們從有標籤(知道是否異常)的資料入手,從中找出一部分正常資料作為訓練集,剩餘的正常資料和異常資料作為交叉檢驗集和測試集。

具體評價方法如下:

異常檢測

監督學習

大量的正常值(y=0)和少量的異常值(y=1)

大量的正向類(y=0)和少量的負向類(y=1)

異常資料太少,只能根據少量資料進行訓練

有足夠多的正向和負向資料以供訓練

舉例:1.欺詐行為檢測;2.生產廢品檢測;3.檢測機器執行狀態

舉例:1.郵箱過濾器;2.天氣預報;3.腫瘤分類

在誤差分析中,如果我們可以發現我的選定的變數是否合適,進而進行相應的改正。如左圖所示,異常點\(x\)對應的概率很高,顯然這種分布方式不能很好地識別出異常值。所以我們嘗試增加變數或者改變變數的型別來識別異常值。如右圖所示,通過增加乙個變數,我們能夠更好地識別異常點。所以,誤差分析對於乙個問題來說還是很重要的。

異常值檢測(Outlier Detection)

什麼是異常值?對於定性變數來說,異常值是出現次數非常少的類別 對於定量變數來說,異常值是明顯大於或小於其他觀測值的數值。異常值產生的原因 a.人為錯誤 在資料收集,記錄或輸入過程中導致的錯誤。c.實驗誤差 d.資料處理錯誤 某些操作或提取錯誤。e.抽樣錯誤 f.自然異常值 不是人為的 由於錯誤 導致...

R中異常值檢測

data1 complete.cases selectdata 布林判斷 true代表1,false代表0 sum complete.cases selectdata 完整資料200條 sum complete.cases selectdata 不完整資料1條 mean complete.cases...

常用異常值檢測方法

方法 1 均方差 在統計學中,如果乙個資料分布近似正態,那麼大約 68 的資料值會在均值的乙個標準差範圍內,大約 95 會在兩個標準差範圍內,大約 99.7 會在三個標準差範圍內。方法 2 箱形圖 箱形圖是數字資料通過其四分位數形成的圖形化描述。這是一種非常簡單但有效的視覺化離群點的方法。考慮把上下...