爬蟲 資料處理 pandas資料處理

2022-03-05 13:23:06 字數 1400 閱讀 2546

使用duplicated()函式檢測重複的行,返回元素為布林型別的series物件,每個元素對應一行,如果該行不是第一次出現,則元素為true

- keep引數:指定保留哪一重複的行資料

dataframe替換操作

使用df.std()函式可以求得dataframe物件每一列的標準差

資料清洗
清洗重複值

清洗異常值

隨機抽樣

當dataframe規模足夠大時,直接使用np.random.permutation(x)函式,就配合take()函式實現隨機抽樣

資料聚合是資料處理的最後一步,通常是要使每乙個陣列生成乙個單一的數值。

資料分類處理:

資料分類處理的核心:

- groupby()函式

- groups屬性檢視分組情況

pandas 資料處理

pandas中資料可以分為series,dataframe,panel分別表示一維至三維資料。其中在構造時,index表示行名,columns表示列名 構造方式 s pd.series data index index s pd series np random randn 5 index a b ...

pandas資料處理

dataframe.duplicated subset none,keep first 判斷dataframe中的資料是否有重複 必須一行中所有資料都重複才算重複,只能判斷行,不能判斷列 返回series dataframe.drop duplicates subset none,keep firs...

Pandas資料處理

資料處理 pandas from sklearn.preprocessing import minmaxscaler data 1,2 0.5,6 0.10 1,18 將 numpy 轉換成 pd 表 pd.dataframe data 歸一化 0,1 之間 scaler minmaxscaler ...