向量和矩陣範數

2021-08-21 17:37:08 字數 1269 閱讀 2221

參考:

數值分析–朱曉臨

需要理解的是,範數也是一種函式,是一種度量向量和矩陣大小的函式。它常常被用來度量某個向量空間(或矩陣)中的每個向量的長度或大小。

暫時沒時間寫……

約定:a代表m×n的矩陣,aij代表矩陣內的元素,i表示行,j表示列。

並且有一例項矩陣a如下:

矩陣的列範數定義如下:

即將矩陣每列看做乙個整體,求每列各個元素絕對值的和,取列元素絕對值的和最大的數為矩陣列範數的值。

如對前面提到的3×3的矩陣a,其列範數為:

矩陣的行範數的定義為:

同矩陣列範數相似,行範數求得是每行元素絕對值的和,取和的最大值。

針對前面提到的例項a的行範數,我們有:

矩陣的2範數又稱為譜範數,

矩陣的frobenius範數定義為,也叫f-範數,通常也叫做矩陣的l2範數,它是乙個平滑的凸函式。定義為:

通俗地說,即對應元素的平方和然後再開方。

矩陣的l21範數可以表達組稀疏,但卻是非平滑的,而函式的平滑性與連續可微性有關,即l21範數不是處處可微的。其定義式為:

ai表示矩陣a的第i列,

具體來說,先以矩陣每一列為單位,求每一列的f範數(也可認為是向量的2範數),然後再將得到的結果求l1範數(也可認為是向量的1範數)。

l0範數求得就是矩陣中非0元素的個數。通常用l0來表示稀疏,l0範數越小0元素越多,也就越稀疏。但是l0不可導,所以常常使用l1範數來代替l0。

l1範數求得是矩陣中的每個元素絕對值之和,它是l0範數的最優凸近似,因此它也可以表示稀疏。但是l1範數是乙個非平滑的函式,即不是處處可微的。對於梯度下降演算法是無法求解包含l1範數的目標函式的。

矩陣的核範數即:矩陣的奇異值(將矩陣svd分解)之和,這個範數可以用來表示低秩(因為最小化核範數,相當於最小化矩陣的秩——低秩)。

向量範數和矩陣範數

以下分別列舉常用的向量範數和矩陣範數的定義。1 範數 2 範數 即所有向量元素絕對值中的最小值,matlab呼叫函式norm x,inf p 範數 即向量元素絕對值的p次方和的1 p次冪,matlab呼叫函式norm x,p 1 範數 列和範數,即所有矩陣列向量絕對值之和的最大值,matlab呼叫函...

向量和矩陣範數

在剛入門機器學習中的低秩,稀疏模型時,被各種範數攪得一團糟,嚴重延緩了學習進度,經過一段時間的學習,現在將其完整的總結一下,希望遇到同樣麻煩的同學能有所幫助。一 向量的範數 首先定義乙個向量為 a 5,6,8,10 1.1 向量的1範數 向量的1範數即 向量的各個元素的絕對值之和,上述向量a的1範數...

Matlab獲取向量範數和矩陣範數(norm函式)

matlab通過 norm函式 獲取向量範數和矩陣範數。1.語法 語法說明 引數n norm v 返回向量 v 的歐幾里德範數。此範數也稱為 2 範數 向量模或歐幾里德長度。v 輸入向量。資料型別 single double 複數支援 是 n norm v,p 返回廣義向量 p 範數。p 範數型別 ...