機器學習中的數學知識 線性代數

2022-08-26 17:27:10 字數 2113 閱讀 6218

1、矩陣叉乘(內積)

矩陣的乘法就是矩陣a的第一行乘以矩陣b的第一列,各個元素對應相乘然後求和作為第一元素的值。

矩陣只有當左邊矩陣的列數等於右邊矩陣的行數時,它們才可以相乘,乘積矩陣的行數等於左邊矩陣的行數,乘積矩陣的列數等於右邊矩陣的列數 。

2.矩陣點乘(外積)

矩陣點乘是對應位置相乘,表徵向量的對映。

向量和矩陣的範數,l1範數和l2範數

範數定義:

兩個標量我們可以比較大小,比如1,2,我們知道2比1大。但是現在如果是兩個向量(1,2,1) (2,2,0),我們如何比較大小呢?此時我們把乙個向量通過不同的方法,對映到乙個標量,從而可以比較大小,這個標量學名就叫做「範數」。

向量範數也可以分為0範數,1範數,2範數,p範數,∞範數等。

l1範數:向量1-範數也就是求x向量各元素之和。

l2範數:向量2-範數又歐幾里德範數,也就是求x向量各元素平方和,再開方。

單位矩陣

任何矩陣與單位矩陣相乘都等於本身,用e表示,

逆矩陣定義:

乙個n階方陣a稱為可逆的,或非奇異的,如果存在乙個n階方陣b,使得

則稱b是a的乙個逆矩陣。a的逆矩陣記作a-1。

可逆矩陣一定是方陣。

如果矩陣a是可逆的,其逆矩陣是唯一的。

a的逆矩陣的逆矩陣還是a。記作(a-1)-1=a。

若矩陣a可逆,則矩陣a滿足消去律。即ab=o(或ba=o),則b=o,ab=ac(或ba=ca),則b=c。

兩個可逆矩陣的乘積依然可逆。

矩陣可逆當且僅當它是滿秩矩陣。

行列式的定義與計算方法

矩陣行列式是指矩陣的全部元素構成的行列式,設a=(aij)是數域p上的乙個n階矩陣,則所有a=(aij)中的元素組成的行列式稱為矩陣a的行列式,記為|a|或det(a)。

乙個n×n矩陣的行列式等於其任意行(或列)的元素與對應的代數余子式乘積之和,即

行列式意義:

行列式就是矩陣對應的線性變換對空間的拉伸程度的度量,或者說物體經過變換前後的體積比。

行列式為0的矩陣,不可逆;行列式不為零的矩陣,可逆。

線性變換a的行列式是否為零,就代表了其對映的保真性,也即,能不能把一組線性無關的向量變換成另一組保持無關性的向量。

伴隨矩陣

伴隨矩陣用處:

a*a=|a|

a的伴隨乘以a矩陣等於a的行列式,伴隨矩陣因此提出

矩陣的秩:

保證一組更少數目向量的線性無關性。這個數目往往少於a的維度(或者說,線性空間的維度),這個數目就叫做線性變換a的秩。

二次型的定義

二次型(quadratic form):n個變數的二次多項式稱為二次型,即在乙個多項式中,未知數的個數為任意多個,但每一項的次數都為2的多項式。

二次型例子:

矩陣的正定性

矩陣的特徵值與特徵向量

矩陣的奇異值分解

線性方程組的數值解法,尤其是共軛梯度法

numpy學習之前的必要數學知識 線性代數

主要內容 1.行列式的定義及性質 2.行列式的展開公式 1.排列和逆序 排列 由n個數1,2,n組成的乙個有序陣列稱為乙個n級排列,n級排列共有n 個 逆序 在乙個排列中,如果乙個大的數排在了乙個小的數前面,就稱這兩個數構成了乙個逆序 逆序數 在乙個排列i1,i2,in中,逆序的總數稱為該排列的逆序...

機器學習 數學知識丨線性代數與矩陣論丨

1笛卡爾積 x,y x y x,y in mathcal times mathcal x,y x y 假設集合a 集合b 則兩個集合的笛卡爾積為。x y mathcal times mathcal x y 就是乙個集合。2矩陣外積 矩陣相乘 矩陣外積也就是矩陣的乘積,a a11a12 a21a22 ...

機器學習中的線性代數知識(上)

as all we know,線性代數對於機器學習的重要性不言而喻。但縱觀國內的教材和課程,大部分線性代數的講解,一上來就堆滿了各種定義和公式,從而導致我們知其然而不知其所以然,不利於我們深入理解機器學習的演算法。因此,希望本篇博文能幫大家從另乙個角度理解線性代數。但是注意,閱讀本篇博文,最好已經有...