七:特徵分解:
將矩陣分解為一組特徵向量和特徵值
從幾何上理解特徵值和特徵向量:
特徵值:運動的速度
特徵向量:運動的方向
向量v在矩陣a的作用下,保持方向不變,進行比例為(lanmeta)的伸縮
特徵向量(eigenvector) v
,矩陣 a
,特徵值(標量)λ
。滿足:
特徵分解:
以上鏈結為特徵分解的人話講解版
所有特徵值都是正數的矩陣為正定
所有特徵值都是非負數的矩陣為半正定
所有特徵值都是負數的矩陣為負定
所有特徵值都是非正數的矩陣為半負定
八:奇異值分解(svd)
將矩陣分解為奇異向量和奇異值
奇異值分解將矩陣a分解為三個矩陣的乘積:
九:moore-penrose偽逆
ba=i 則b為a的左逆
解決非方陣沒有逆矩陣的尷尬:
矩陣a的計算公式:
矩陣u,d和v是矩陣a奇異值分解後得到的矩陣。
對角矩陣d的偽逆是非零元素取倒數之後在轉置得到的。
十:跡運算:
返回矩陣對角元素的和:
十一:行列式det(a),是將乙個方陣對映到實數的函式。
行列式等於特徵值的乘積。
AI聖經 深度學習 讀書筆記(二) 線性代數
線性代數主要是面向連續數學。標量 乙個標量就是乙個單獨的數。向量 乙個向量就是一列數。我們可以把向量看成空間中的點,每個元素是不同座標軸上的座標。矩陣 矩陣是乙個二維陣列,其中每個元素由兩個索引所確定。張量 乙個陣列中的元素分布在若干維座標中的規則網路。元素對應相乘 a b a b a b 點積 c...
線性代數(二)
一 線性空間 1 空間中的向量滿足八種運算,其結果仍在這個空間中,則稱之為線性空間。子空間的概念與之類似,是線性空間的子集,也滿足上述的表述。下面給出乙個子空間的示例。乙個二維線性空間的子空間有 它自身,過原點的一條直線,原點。如何由乙個矩陣構造子空間?取其列向量進行線性相加即可構成列空間。也可以通...
深度學習筆記(二)第二章 線性代數
標量 scalars 向量 vector 矩陣 matrix 矩陣和向量乘法 hadamard積 a b c ab ac 2.6 a bc ab c 2.7 單位矩陣 單位矩陣和矩陣的逆 線性依賴和空間 span 解決公式2.11是否有解的問題。乙個有線性依賴的方陣叫奇異矩陣。範數 norms p ...