線性方程組的直接解法線性方程組（linear equation system）可寫成如下形式： ⎧⎩
⎨⎪⎪⎪
⎪⎪⎪⎪
⎪a11x
1+a12
x2+⋯
+a1n
xn=b
1a21x
1+a22
x2+⋯
+a2n
xn=b
2⋮am
1x1+
am2x
2+⋯+
amnx
n=bm
若m>
n，這種線性方程組稱為超定方程組；若
m<
n，線性方程組一般有無窮多個解；當m=
n時，記為ax
=b，其中a
是乙個n×n
的矩陣，稱為係數矩陣（coefficient matrix）；x為
n維向量，稱為解向量；b為
n維向量，稱為右端向量或右端項（right-hand side）。在後續討論中，我們僅考慮m=
n的情況，並且假設矩陣
a為實數矩陣、
b為實數向量。
線性代數中的有關概念
向量範數和矩陣範數
對於實向量x=
[x1,
x2,⋯
,xn]
t，給出常用的幾種範數：
1-範數：∥x
∥1=∑
ni=1
|xi|
2-範數：∥x
∥2=(
∑ni=
1|xi
|2)1
2=(x
tx)1
2∞-範數：∥x
∥∞=m
ax1≤
i≤n|
xi|定理：rn
上的任一一種向量範數∥x
∥都是關於x分量
x1,x
2,⋯,
xn的連續函式
定理：設∥x
∥s和∥
x∥t為
rn上的任意兩種向量範數，則存在常數c1
,c2>
0，使得對一切x∈
rn有 c
1∥x∥
s≤∥x
∥t≤c
2∥x∥
s定義：設x∈
rn，a
∈rn×
n，對某種給定的向量範數∥x
∥v，矩陣的運算元範數為 ∥a
∥v=m
axx≠
0∥ax
∥v∥x
∥v對應於向量的1-範數、2-範數和
∞-範數，矩陣a=
(aij
∈rn×
n的運算元範數分別為：
1-範數：∥a
∥1=m
ax1≤
j≤n∑
ni=1
∣∣ai
j∣∣
2-範數：∥a
∥2=λ
max(
ata)
−−−−
−−−−
−√,其中λma
x(⋅)
表示取矩陣最大特徵值的函式
∞-範數：∥a
∥∞=m
ax1≤
i≤n∑
nj=1
∣∣ai
j∣∣問題的敏感性和矩陣條件數
定義：設
a為非奇異矩陣，稱co
nd(a
)v=∥
a∥v∥
∥a−1
∥∥v為矩陣的條件數，其中下標
v用於標識某種矩陣的運算元範數
如果係數矩陣的條件數很大，稱之為病態矩陣，對應的線性方程組求解問題是敏感（病態）問題；如果係數矩陣的條件數很小，稱之為良態矩陣，相應的線性方程組求解問題不太敏感。
求解線性方程組的高斯消去過程
輸入：a，n
，b；輸出：a，
b。for k=
1,2,
⋯,n−
1 if ak
k=0 then 停止
for i=
k+1,
k+2,
⋯,n c:=
−aik
/akk
; for j=
k+1,
k+2,
⋯,n ai
j:=ai
j+ca
kj; end
bi
:=bi+
cbk;
end
end
時間複雜度：o(n3)
花書讀書筆記（三） 數值計算
全部筆記的彙總貼 深度學習 花書 讀書筆記彙總貼 一種極具毀滅性的捨入誤差是下溢 under ow 當接近零的數被四捨五入為零時發生下溢。另乙個極具破壞力的數值錯誤形式是上溢 over ow 當大量級的數被近似為 infty 或 infty 時發生上溢。必須對上溢和下溢進行數值穩定的乙個例子是 so...
資料機構與演算法分析讀書筆記 演算法分析
本章內容 演算法 algorithm 為求解乙個問題需要遵循的 被清楚指定的簡單指令的集合。ps 演算法的幾個特性這裡就不贅述。為了比較計算演算法的效能，需要一些正式的系統架構來計算演算法的效能，引入一些數學公式，用來比較 注 第一條定義的意義為t n 的相對增長率小於等於f n 的相對增長率。第二...
演算法分析與實踐 作業13 讀書筆記
演算法競賽高階指南 讀書筆記 在學習了演算法設計與分析基礎這門課後，我還翻閱了 演算法競賽高階指南 這本書，這本書根據ccf noi資訊學奧利匹克競賽涉及的知識體系進行編寫，對計算機程式設計的基本技能 資料結構與演算法進行了深入的講解。我覺得通過這本書，我了解到的東西還是比較豐富的。比如字典樹的概念...