大學線性代數課程中我們學習了很多關於矩陣分解的方法，這些在概率統計、統計機器學習等方面都有很多應用。
設a是數域f上的n階矩陣，如果存在數域f中的乙個數λ與數域上f的非零向量α→
，使得： aα
→=λα
→ 則稱λ為a的乙個特徵值(根)(eigenvalue)，稱α→
為a的屬於特徵值λ的特徵向量(eigenvector)。
顯然從上式可以看出，aα
→α→ 平行。
將上式做一下變換： aα
→=λα
→ aα
→−λα
→=0
aα→−
λeα→
=0 (
a−λe
)α→=
0 (λ
e−a)
α→=0
稱： λe−a為a的特徵矩陣
行列式f(λ
)=|λ
e−a|
為a的特徵多項式 |λ
e−a|
=0為a的特徵方程 (λ
e−a)
x→=0
→ 是a關於該λ的齊次線性方程組
設n階方陣a存在n個線性無關的特徵向量xi
→ ，將這n個特徵向量xi
→ 組成方陣s(也稱為特徵向量矩陣），則有：
這個式子稱為a的sλ
s−1 分解，或特徵分解(eigendecomposition)，或a的對角化。
根據這個式子可以知道：當方陣a可以被分解為某個矩陣s乘以某個對角矩陣λ再乘以矩陣s−
1 時，就是一次特徵分解。
可以對角化的前提是a有n個線性無關的特徵向量。a有n個線性無關的特徵向量的前提是，所有的λλ都不重複（沒有重根）。
設a是乙個方塊矩陣。a的lu分解是將它分解成如下形式： a=
lu其中l和u分別是下三角矩陣和上三角矩陣。
例如對於乙個 3∗
3 的矩陣，就有
乙個ldu分解是乙個如下形式的分解： a=
ldu
其中d是對角矩陣，l和u是單位三角矩陣（對角線上全是1的三角矩陣）。
乙個lup分解是乙個如下形式的分解： a=
lup
其中l和u仍是三角矩陣，p是乙個置換矩陣。
乙個充分消元的lu分解為如下形式： pa
q=lu
乙個可逆矩陣可以進行lu分解當且僅當它的所有子式都非零。如果要求其中的l矩陣（或u矩陣）為單位三角矩陣，那麼分解是唯一的。同理可知，矩陣的ldu可分解條件也相同，並且總是唯一的。
假設m是乙個m×n階矩陣，其中的元素全部屬於域k，也就是實數域或複數域。如此則存在乙個分解使得 m=
uσv∗
其中u是m×m階酉矩陣；σ是m×n階非負實數對角矩陣；而v*，即v的共軛轉置，是n×n階酉矩陣。這樣的分解就稱作m的奇異值分解。
首先，我們來看乙個只有兩行兩列的簡單矩陣。第乙個例子是對角矩陣
從幾何的角度，矩陣可以描述為乙個變換：用矩陣乘法將平面上的點（x, y）變換成另外乙個點（3x, y）：
這種變換的效果如下：平面在水平方向被拉伸了3倍，在豎直方向無變化。
2*2矩陣奇異值分解的幾何實質是：對於任意2*2矩陣，總能找到某個正交網格到另乙個正交網格的轉換與矩陣變換相對應。
用向量解釋這個現象：選擇適當的正交的單位向量v1
和v2 ，向量mv
1 和mv
2 也是正交的。
奇異值分解的魅力在於任何矩陣都可以找到奇異值。
矩陣分解 知識總結
schmidt正交化 主要思路 非奇異的矩陣各列向量線性無關，可以利用schmidt正交化公式 再加上單位化 將每個列向量化為相互正交的單位向量q。則a qr，r可以由正交化和單位化過程中生成的中間變數直接寫出。givens變換 旋轉變換 主要思路 householder變換 反射變換 主要思路 p...
IP位址相關知識回顧
交換機 是組織區域網最重要的裝置，路由器實現連線內網和外網 區域網 一般稱為內網 簡單區域網的構成 交換機 網線 pc ip位址是乙個唯一標識，是一段以二進位制表示的網路編碼，由32位組成 11010010.01001001.10001100.00000110，用 點分 十進位制表示，便於記憶 21...
樹的相關知識回顧
樹的資料結構相對來說也比較好理解。但由於為了查詢效率和儲存效率，又有多種樹形結構，對樹進行了限制。如二叉樹，平衡二叉樹，紅黑樹，b樹，b 樹。其實也沒多少多複雜，只是願不願意花時間去研究。個人花了點花時間回顧了一下平衡二叉樹和二叉樹的理論和實現。紅黑樹和b樹，b 樹暫時沒有去研究。後續有空了再補。只...