python案例資料集 Python資料集切分例項

2021-10-11 12:51:35 字數 1277 閱讀 6598

在處理資料過程中經常要把資料集切分為訓練集和測試集,因此記錄一下切分**。

data:資料集

test_ratio:測試機占比

如果data為numpy.numpy.ndarray直接使用此**

如果data為pandas.datframe型別則

return data[train_indices],data[test_indices]

修改為return data.iloc[train_indices],data.iloc[test_indices]

def split_train(data,test_ratio):

shuffled_indices=np.random.permutation(len(data))

test_set_size=int(len(data)*test_ratio)

test_indices =shuffled_indices[:test_set_size]

train_indices=shuffled_indices[test_set_size:]

return data[train_indices],data[test_indices]

測試**如下:

import numpy as np

import pandas as pd

data=np.random.randint(100,size=[25,4])

print(data)

結果如下:

從上圖可以看出,原資料集按照5:1被隨機分為兩部分。但是此種方法存在乙個缺點?每次呼叫次函式切分同乙個資料集切分出來的結果都不一樣,因此常在np.random.permutation(len(data))先呼叫np.random.seed(int)函式,來確保每次切分來的結果相同。

因此將上述函式改為:

def split_train(data,test_ratio):

np.random.seed(43)

shuffled_indices=np.random.permutation(len(data))

test_set_size=int(len(data)*test_ratio)

test_indices =shuffled_indices[:test_set_size]

train_indices=shuffled_indices[test_set_size:]

return data[train_indices],data[test_indices]

這個函式np.random.seed(43)當引數為同一整數時產生的隨機數相同。

Python 語法 程式 案例 資料

浮點 小數 科學記數法 e 可以方便視覺化看 複數 可以做量子力學 高精度 from decimal import getcontext getcontext prec 50 a decimal 1 decimal 3 列表 資料集合 可以存放任意資料型別。方便增刪改查 功能 建立,查詢,切片,迴圈...

資料處理案例,資料質量案例

1 名稱錯誤 北京海定區世紀城 北京海淀區 2 全半形替換 北京 餐飲 改為 北京 餐飲 3 空格替換 海淀區世紀城金源時代商務中心 c座 4 資料補齊 樊城區建華路 出現這個位址,應該加上湖北省襄陽市。a 做一張地區mapping表 省份 市 縣 鎮鄉 如果有郵編號,首先我們可以根據郵編號找到對應...

實踐案例 資料視覺化報表應用

報表是乙個企業資料分析管理的基本工具,尤其是銀行 等 資料大戶 在報表的應用上有大量需求,也存在大量困擾。以廈門農村商業銀行為例。廈門農商業行的業務系統非常多,包括一 系統 comstar系統 辦公自動化系統 資料倉儲應用系統 審核審計系統等等。資料倉儲下還規劃了非常多的系統,集中了大量的報表需求。...