範數與距離的關係

出處：

向量的範數可以簡單形象的理解為向量的長度，或者向量到零點的距離，或者相應的兩個點之間的距離。

向量的範數定義：向量的範數是乙個函式||x||,滿足非負性||x|| >= 0，齊次性||cx|| = |c| ||x|| ，三角不等式||x+y|| <= ||x|| + ||y||。

常用的向量的範數：

l1範數: ||x|| 為x向量各個元素絕對值之和。

l2範數: ||x||為x向量各個元素平方和的1/2次方，l2範數又稱euclidean範數或者frobenius範數

lp範數: ||x||為x向量各個元素絕對值p次方和的1/p次方

l∞範數: ||x||為x向量各個元素絕對值最大那個元素的絕對值，如下：

橢球向量範數: ||x||a = sqrt[t(x)ax]， t(x)代表x的轉置。定義矩陣c 為m個模式向量的協方差矩陣，設c』是其逆矩陣，則mahalanobis距離定義為||x||c』 = sqrt[t(x)c』x], 這是乙個關於c』的橢球向量範數。

歐式距離（對應l2範數）：最常見的兩點之間或多點之間的距離表示法，又稱之為歐幾里得度量，它定義於歐幾里得空間中。

n維空間中兩個點x1(x11,x12,…,x1n)與 x2(x21,x22,…,x2n)間的歐氏距離：

也可以用表示成向量運算的形式：

曼哈頓距離：曼哈頓距離對應l1-範數，也就是在歐幾里得空間的固定直角座標系上兩點所形成的線段對軸產生的投影的距離總和。例如在平面上，座標（x1, y1）的點p1與座標（x2, y2）的點p2的曼哈頓距離為：

切比雪夫距離，若二個向量或二個點x1和x2，其座標分別為(x11, x12, x13, ... , x1n)和(x21, x22, x23, ... , x2n)，則二者的切比雪夫距離為：d = max(|x1i - x2i|)，i從1到n。對應l∞範數。

閔可夫斯基距離(minkowski distance)，閔氏距離不是一種距離，而是一組距離的定義。對應lp範數，p為引數。

閔氏距離的定義：

兩個n維變數（或者兩個n維空間點）x1(x11,x12,…,x1n)與 x2(x21,x22,…,x2n)間的閔可夫斯基距離定義為：

其中p是乙個變引數。

當p=1時，就是曼哈頓距離，

當p=2時，就是歐氏距離，

當p→∞時，就是切比雪夫距離，

根據變引數的不同，閔氏距離可以表示一類的距離。

mahalanobis距離：也稱作馬氏距離。在近鄰分類法中，常採用歐式距離和馬氏距離。