1 主成分分析(pca)
主成分分析：將原始特徵（變數）按一定的線性組合而成新的若干個變數，這些若干個變數就稱為主成分，通常主成分個數少於自變數個數，從而達成降維目的。
主成分分析與svd都是可以降維，那麼它們的區別在哪？區別在於pca需要先計算協方差矩陣，接著通過協方差矩陣進行與svd相似的步驟；而svd可以直接對矩陣進行分解。
小知識：y=ax+b, x為自變數，y為因變數（因x變化而變化，自身不會變化）
2 因子分析
主成份與因子的區別在於：
1）主成份是由所有自變數線性組合而成，而自變數間的相似性不明顯；因子是內自變數間的相似性比較明顯，相似性不明顯的自變數在該因子下佔比很少。
2）因子分析的結果是指標由因子線性組合而成；主成分分析的結果是主成分由指標線性組合而成。
如下所示的因子分析模型：
因子分析與主成分分析的異同點
:1 相同點
都對原始資料進行標準化處理；都消除了原始指標的相關性對綜合評價所造成的資訊重複的影響; 構造綜合評價時所涉及的權數具有客觀性; 在資訊損失不大的前提下，減少了評價工作量。
2 不同點
公共因子比主成分更容易被解釋; 因子分析的評價結果沒有主成分分析準確; 因子分析比主成分分析的計算工作量大。
主成分分析僅僅是變數變換，而因子分析需要構造因子模型。
主成分分析:原始變數的線性組合表示新的綜合變數，即主成分；
因子分析：潛在的假想變數和隨機影響變數的線性組合表示原始變數。
主成分分析和因子分析的區別
兩者既有區別，又有聯絡 降維與分類是多元統計分析的兩個主題，在這裡，我 一下的主成分和因子分析主要用於降維。主成分分析就是將多項指標轉化為少數幾項綜合指標,用綜合指標來解釋多變數的方差 協方差結構。綜合指標即為主成分。所得出的少數幾個主成分，要盡可能多地保留原始變數的資訊，且彼此不相關。因子分析是研...
主成分分析和因子分析區別與聯絡
components analysis，pca 基本原理 利用降維 線性變換 的思想，在損失很少資訊的前提下把多個指標轉化為幾個不相關的綜合指標 主成分 即每個主成分都是原始變數的線性組合，且各個主成分之間互不相關，使得主成分比原始變數具有某些更優越的效能 主成分必須保留原始變數90 以上的資訊 從...
主成分分析與因子分析的區別
主成分分析和因子分析有十大區別 1.原理不同 主成分分析基本原理 利用降維 線性變換 的思想，在損失很少資訊的前提下把多個指標轉化為幾個不相關的綜合指標 主成分 即每個主成分都是原始變數的線性組合,且各個主成分之間互不相關,使得主成分比原始變數具有某些更優越的效能 主成分必須保留原始變數90 以上的...