深度學習日記(二) 線性代數二

2021-08-10 01:20:23 字數 692 閱讀 4350

七:特徵分解:

將矩陣分解為一組特徵向量和特徵值

從幾何上理解特徵值和特徵向量:

特徵值:運動的速度

特徵向量:運動的方向

向量v在矩陣a的作用下,保持方向不變,進行比例為(lanmeta)的伸縮

特徵向量(eigenvector) v

,矩陣 a

特徵值(標量)λ

。滿足:

特徵分解:

以上鏈結為特徵分解的人話講解版

所有特徵值都是正數的矩陣為正定

所有特徵值都是非負數的矩陣為半正定

所有特徵值都是負數的矩陣為負定

所有特徵值都是非正數的矩陣為半負定

八:奇異值分解(svd)

將矩陣分解為奇異向量和奇異值

奇異值分解將矩陣a分解為三個矩陣的乘積:

九:moore-penrose偽逆

ba=i 則b為a的左逆

解決非方陣沒有逆矩陣的尷尬:

矩陣a的計算公式:

矩陣u,d和v是矩陣a奇異值分解後得到的矩陣。

對角矩陣d的偽逆是非零元素取倒數之後在轉置得到的。

十:跡運算:

返回矩陣對角元素的和:

十一:行列式det(a),是將乙個方陣對映到實數的函式。

行列式等於特徵值的乘積。

AI聖經 深度學習 讀書筆記(二) 線性代數

線性代數主要是面向連續數學。標量 乙個標量就是乙個單獨的數。向量 乙個向量就是一列數。我們可以把向量看成空間中的點,每個元素是不同座標軸上的座標。矩陣 矩陣是乙個二維陣列,其中每個元素由兩個索引所確定。張量 乙個陣列中的元素分布在若干維座標中的規則網路。元素對應相乘 a b a b a b 點積 c...

線性代數(二)

一 線性空間 1 空間中的向量滿足八種運算,其結果仍在這個空間中,則稱之為線性空間。子空間的概念與之類似,是線性空間的子集,也滿足上述的表述。下面給出乙個子空間的示例。乙個二維線性空間的子空間有 它自身,過原點的一條直線,原點。如何由乙個矩陣構造子空間?取其列向量進行線性相加即可構成列空間。也可以通...

深度學習筆記(二)第二章 線性代數

標量 scalars 向量 vector 矩陣 matrix 矩陣和向量乘法 hadamard積 a b c ab ac 2.6 a bc ab c 2.7 單位矩陣 單位矩陣和矩陣的逆 線性依賴和空間 span 解決公式2.11是否有解的問題。乙個有線性依賴的方陣叫奇異矩陣。範數 norms p ...