前提：
常用數學符號表 rn
———————n維實空間 rm
n—————–m×n的實矩陣
t————————轉置
det(a)—————–行列式
c(a)——————–列空間
n(a)——————–零空間 a−
1———————逆
diag(a)—————-將向量轉化為對角矩陣
tr———————–跡(trace)即主對角線的和
rank——————–秩
矩陣的四個基本子空間：列空間， 零空間， 行空間， a的轉置零空間（左零空間）。
對於矩陣am
∗ n
來說:
1.列空間c(a)
位於rn
,維數是秩rank(a),
2.零空間n(a)
位於rn
,維數是n-rank(a),
3.行空間r(a) 位於r
m ,維數是rank(a
t ),
4.左零空間n(at
) 位於r
m ,維數是m-rank(at
)一、列空間和零空間構成乙個r
n 空間，列空間的維數是主列的個數也就是秩的個數，零空間的維數是自由列的個數也就是n-rank的個數。
零空間就是使齊次線性方程組ax=0的解空間。
二、行空間和左零空間構成乙個r
m 空間，行空間的維數是rank(a
t ),零空間的維數是自由行的個數也就是m-rank(am
). 左零空間就是齊次線性方程組a
t x=0的解空間。
利用子空間重新思考線性方程組的解：
ax=b
1.無解，則b不在c(a)子空間中。
2.有解，則b在c(a)子空間中
有唯一解，則rank(a)=n,n(a)的維數是n-n=0;
有無窮多解，則rank(a)
機器學習之線性代數基礎
友情提示，本博文是博主的雲筆記，記錄一下線性代數的基本知識，很多簡單的內容太懶了就沒寫。博文內容對你可能沒有實質性幫助。c ab，a的列數必須等於b的行數，c的行數是a的行數，c的列數是b的列數。乘法法則是a的每一行與b的每一列的每個對應元素乘積之和。ab e,逆矩陣唯一，且可逆矩陣都是方陣。求解線...
深度學習數學基礎之線性代數
深度學習中的基本資料結構，基本上都是用向量或矩陣表示的，因此 深度學習的基礎學科之一 就是線性代數。深度學習中的線性代數知識主要包括以下部分 1 標量 向量 矩陣和張量 這4個變數很好理解 分別表示 乙個數 一維空間 一條線 二維 乙個平面 多於二維 立體或超立體等 2 矩陣的乘法和內積 這個在深度...
數學基礎 線性代數
1 矩陣正定性的判斷，hessian 矩陣正定性在梯度下降中的應用 若矩陣所有特徵值均不小於0，則判定為半正定，若矩陣所有特徵值均大於0，則判定為正定，在判斷優化演算法的可行性時hessian 矩陣的正定性起了很大的作用，若hessian 正定，則函式的二階偏導恆大於0，函式的變化率處於遞增狀態，在...