Python實現非正太分布的異常值檢測方式

2022-09-27 08:30:11 字數 2756 閱讀 7306

工作中,我們經常會遇到資料異常,比如說瀏覽量突增猛降,交易量突增猛降,但是這些資料又不是符合正太分布的,如果用幾倍西格瑪就不合適,那麼我們如何來判斷這些變化是否在合理的範圍呢?

小白查閱一些資料後,發現可以用箱形圖,具體描述如下:

箱形圖(英文:box www.cppcns.complot),又稱為盒須圖、盒式圖、盒狀圖或箱線圖,是一種用作顯示一組資料分散情況資料的統計圖。因型狀如箱子而得名。箱形圖最大的優點就是不受異常值的影響,能夠準確穩定地描繪出資料的離散分布情況,同時也利於資料的清洗。

異常值可以設定為上四分位數的1.25倍,也可以設定為1.5倍,具體的要通過實驗可得。

1、下四分位數q1

(1)確定四分程式設計客棧位數的位置。qi所在位置=i(n+1)/4,其中i=1,2,3。n表示序列中包含的項數。

(2)根據位置,計算相應的四分位vhjcezg數。

例中:q1所在的位置=(14+1)/4=3.75,q1=0.25第三項+0.75第四項=0.2517+0.7519=18.5;

2、中位數(第二個四分位數)q2中位數,即一組數由小到大排列處於中間位置的數。若序列數為偶數個,該組的中位數為中間兩個數的平均數。

例中:q2所在的位置=2(14+1)/4=7.5,q2=0.5第七項+0.5第八項=0.525+0.528=26.5

3、上四分位數q3計算方法同下四分位數。

例中:q3所在的位置=3(14+1)/4=11.25,q3=0.75第十一項+0.25第十二項=0.7534+0.2535=34.25。

4、上限上限是非異常範圍內的最大值。

首先要知道什麼是四分位距如何計算的?四分位距iqr=q3-q1,那麼上限=q3+1.5iqr5、下限下限是非異常範圍內的最小值。下限=q1-1.5iqr

我這裡是使用上四分位數的1.5倍作為上限,下四分位數的1.5倍作為下限。

這裡是拿歷史乙個月每天的產量和間夜量作為參考,統計出歷史的箱線圖的各個指標,然後將要比較的資料,來進行迴圈判斷,若超www.cppcns.com過上限/下限那麼丟擲1和0.

# -*- coding: utf-8 -*-

"""created on tue apr 30 10:52:37 2019

@author: chen_lib

"""

import pandas as pd

catering_sale = 'd:/users/chen_lib/desktop/ceshi.csv' #讀取歷史資料

datax = pd.read_csv(catering_sale) #讀取資料

#取出不是昨天的資料

data = datax.loc[datax['orderdate'] != datetime][:]

'''import time

## yyyy-mm-dd格式

print (time.strftime("%y-%m-%d"))

'''#時間減一天

import datetime

datetime = (datetime.datetime.now()+datetime.timedelta(days=-1)).strftime("%y-%m-%d")

#儲存基本統計量,將常見的統計資訊儲存為資料框

statistics = data.describe()

#新增行標籤 計算出每個指標的上線下線和四分位間距

statistics.loc['iqr'] = statistics.loc['75%']-statistics.loc['25%'] #四分位數間距

statistics.loc['up'] = statistics.loc['75%'] + 1.5*statistics.loc['iqr'] #上限

statistics.loc['dawn'] = statistics.loc['25%'] - 1.5*statistics.loc['iqr']#下限

#取出data的列名

columns = data.columns.values.tolist()

'''取出要比較的數值,放在統計資訊表'''

a = data.loc[data['orderdate'] == datetime][columns[1]]#取出第一列

b = data.loc[data['orderdate'] == datetime][columns[2]]#取出第二列

statistics.loc['res'] = [a[1],b[1]]#取出需要比較的當天的資料 放入統計資訊中

'''迴圈取出結果是否滿足要求'''

ret =

for i in range(2):

res = statistics.loc['res'][i]

max = statistics.loc['up'][columns[i+1]]#最大值

min = statistics.loc['dawn'][columns[i+1]]#最小值

'''#重建三個值的索引,以便比較大小

res.index = ['ordernum']

max.index = max['ordernum']

min.index = min['ordernum']

#判斷異常值,若大於最大值或者小於最小值則丟擲結果為1

'''result1 = res>max

result2 = res程式設計客棧/chen_lib/desktop/ceshi.xlsx",sheet_name="total",index=false,header=false)

本文標題: python實現非正太分布的異常值檢測方式

本文位址:

證明隨機數符合正太分布的方法

因為工作需要,自己用c語言實現了matlab中的normrnd函式 隨機正太分布函式,就是生成的隨機數符合正太分布 其實相關的函式實現網上有很多,我使用了box muller方法。需要的可以網上找,這裡不做描述 本文主要是驗證自己實現的c函式有沒有真正的實現這個功能。方法就是大量資料描圖 1.用c函...

基於正太分布的一元離群點檢測

以下為matlab實現程式 clc clear 利用最大似然估計,檢測一元離群點 氣溫測試資料,單位為攝氏度,這裡假設資料服從正太分布 tdata 24,24.1,28.9,28.9,29.0,29.1,29.1,29.2,29.2,29.3,29.4,29,28,29.2,29.3,29,29.5...

兩類問題且模式都是正太分布的特殊情況

兩類問題且模式都是正太分布的特殊情況 設有兩種模式,w1,w2,p w1 和p w2 求這兩類模式之間的貝葉斯判別介面的方程式 當c1 c2時,兩類模式的正態分佈為 p x 1 表示為n m1,c1 p x 2 表示為n m2,c2 1和 2兩類的判別函式對應為 m1和m2是兩種模式的均值向量 mi...