基於Filter的特徵選擇的python實現

2021-10-09 14:55:33 字數 725 閱讀 8067

class sklearn.feature_selection.selectkbest(score_func=, *, k=10)

score_func是用於特徵選擇的方法,k是最終選擇的特徵數

class sklearn.feature_selection.selectpercentile(score_func=, *, percentile=10)
該函式選擇得分前percentile%的特徵

score_func有以下幾種方法:

用於分類任務的有:

sklearn.feature_selection.f_classif

sklearn.feature_selection.mutual_info_classif

sklearn.feature_selection.chi2

用於回歸任務的有:

sklearn.feature_selection.f_regression

sklearn.feature_selection.mutual_info_regression

基於sklearn的特徵選擇方法

在資料探勘工作中,通常處理的是乙個包含大量特徵且含義未知的資料集,並基於該資料集挖掘到有用的特徵。那麼這裡面一般是四個步驟 特徵工程 特徵選擇 模型構造 模型融合。特徵工程主要是清洗特徵 刪除無用特徵和構造新特徵,經過特徵工程這個過程我們可能會得到大量的特徵 而特徵選擇的目的就是從這大量的特徵中挑選...

資料降維之特徵選擇 Filter(過濾式)

特徵選擇就是單純地從提取到的所有特徵中選擇部分特徵作為訓練集特徵,特徵在選擇前和選擇後可以改變值 也不改變值,但是選擇後的特徵維數肯 定比選擇前小,畢竟我們只選擇了其中的一部分特徵。初始化variancethreshlod,指定閥值方差 呼叫fit transform from sklearn.fe...

特徵選擇的方法

特徵選擇的方法大致可分為如下幾類 1.投影法 求出最優的投影向量w,絕對值較大的分量對應的特徵即所選特徵。求解w的方法很多,像lda,linear svm,lasso regression,sparse coding等都是適用的方法。3.filter 對單個特徵根據特定準則進行排序 如熵增益,分類錯...