深度學習和計算機視覺03 PCA

2021-08-21 10:44:43 字數 673 閱讀 7994

資料在某乙個方向的投影具有最大的方差,則這個方向為主成分所在的方向,表徵了資料變化的劇烈程度的主要方向。

根據協方差矩陣求解特徵向量和特徵值,其中特徵值最大的就是主成分的方向,主成分分析中主成分的大小和特徵值得區別在於資料分布所在的軸的長度正比於特徵值開根號而不是特徵值本身

(1)對資料進行預處理,避免不同維度間變數量級差距太大產生影響

(2)首先知道資料樣本的協方差,直接對協方差矩陣求特徵值和特徵向量

(3)對特徵值按照大小進行排序

(4)保留m個主成分,進行降維

(1)資料是統計意義上具有強相關性,可以進行降維

(2)非統計意義的相關可以採用非線性降維,例如lle(區域性線性嵌入)

(1)kernel pca:求協方差前先進行非線性變換,再求協方差矩陣

(2)線性判別分析(lda):原始資料進行投影,在低維空間盡量不同類別的分布中心遠離,相同類別的方差盡量小。

(3)生成式對抗網路(gan)

(4)多維縮放(mds):將高維空間中的距離或者差異性的大小通過變換後在低維空間中保持,比如在低維空間中把距離或差異性表示成歐式距離

(5)隨機近鄰嵌入sne:低維空間中把距離或差異性表示成條件概率

計算機視覺 深度學習基礎

與神經網路的區別 傳統一般三層以內,深度可達上千層 傳統通常是全連線,深度形式多樣 共享權值,跨層的反饋等 目標函式 均方誤差 交叉熵 交叉熵能在深度學習模型下快速提高精度 為了避免交叉熵出現0,使用softmax層來突出最大值並轉換成概率 激勵函式 sigmoid relu 當神經元一層層疊加之後...

計算機視覺與深度學習公司

深度學習是大資料下最熱門的趨勢之一。上乙個十年是網際網路的時代,下乙個十年將是人工智慧的時代。國內已經產生大量的人工智慧公司,分布在不同的領域。2016年是人工智慧的元年,2017年將迎來 人工智慧 的春天。未來幾年也是人工智慧在金融 醫療 教育等大資料行業以及感知互動領域全面滲透的時期,我們正迎來...

深度學習用於計算機視覺

密集連線層 精度97.8 卷積神經網路 99.3 兩者的區別在於 dense層從特徵空間學到的是全域性模式,而卷積層學到時是區域性模式 1 卷積神經網路學到的模式具有平移不變性 視覺世界根本上來說就具有平移不變性 即在影象右下角學到某個模式後可以在任何地方識別這個模式。對於密集連線網路來說如果出現在...