scikit learn 主成分分析 資料降維

2021-09-23 18:46:07 字數 1493 閱讀 6100

**筆記

import matplotlib.pyplot as plt

from sklearn.datasets import load_iris

from sklearn.decomposition import pca

iris = load_iris()

y = iris.target

x = iris.data

import pandas as pd

pd.dataframe(x)

pca = pca(n_components=2) #將特徵降為二維

檢視pca相關的屬性

pca.explained_variance_ #屬性explained_variance 檢視降維後每個新特徵向量上所帶的資訊量大小,可解釋性方差的大小,方差越大,該特徵越重要

#屬性explained_variance_ratio 檢視降維後每個新特徵向量所佔的資訊量佔原始資料總資訊量的比例

pca.explained_variance_ratio_

c = pca.explained_variance_ratio_.sum()

print(c)

特徵維數跟原始資訊量的關係

隨著特徵維數的上公升,能表達的資訊跟原始資訊越接近。

主成分分析

主成分分析 pca 分析乙個隨機向量的中的主成分 主成分一般不是隨機向量中的某乙個分量,而是不同分量的線性組合,根據資訊理論的觀點,資訊的多少與方差有關,所以 主成分是方差最大的幾個成分 主成分分析的方法是求隨機向量的協方差矩陣 用樣本協方差矩陣代替 對於差異較大的資料,可採用相關矩陣代替協方差矩陣...

主成分分析

理論要點 1 主成分分析是一種無監督學習,因此不能用交叉驗證來檢驗誤差 2 在處理資料之前,要對資料做中心化處理 3 p太大的話,做特徵分解用svd 4 一共有min n 1,p 個主成分,因為中心化以後,rank要降一維 5 主成分的載荷向量就是協方差矩陣的特徵向量,對應特徵值最大的是第一主成分,...

主成分分析

1.概念 將一組可能存在相關性的隨機變數轉變成互不相關的隨機變數。這個概念裡有三個地方需要理解清楚。1 隨機變數的指代 在資料集中,每乙個樣本,即將資料集理解成乙個 的話,乙個樣本就是一行,則每一列就是乙個特徵,也就是乙個隨機變數,一列的所有取值就是隨機變數的所有可能取值 說的所有可能取值只針對訓練...