再生核希爾伯特空間(RKHS)

2021-10-02 22:20:27 字數 1532 閱讀 9443

通俗來講,線性空間就是定義了加法和數乘的空間。定義了加法和數乘,空間裡的任何元素都可以由其他元素線性表出,這就是線性空間。

度量空間就是定義了距離的空間

但這裡的距離並不能簡單地認為是我們通常情況下所說的兩點之間連線的直線距離(即歐氏距離)事實上,有很多種不同距離的定義方式,這裡我列舉一些距離的定義。

再回到前面所說的距離,說了這麼些距離的定義,我們可以總結一下,到底什麼是距離呢,借用乙個博主所說的,距離其實就是兩個點(元素)對應乙個數,x,y是集合中的兩個元素,那麼x,y的距離d(x,y)是由x,y這兩個元素決定的乙個數。但我們也不能隨心所欲地定義距離。在定義距離時,要滿足如下三個條件:

(1) d(x,y)≥0;d(x,y)=0的充要條件是x=y

(2)d(x,y) = d(y,x) ;對稱性

(3)d(x,z) + d(z,y) ≥ d(x,y);滿足三角不等式

定義了距離的空間叫度量空間;定義了距離的線性空間叫線性度量空間

賦範空間就是定了範數的空間

什麼是範數呢,通俗來說,x的範數||x||就是x的長度。這裡有必要說明一下範數和距離的區別。距離的概念是針對兩個元素來說的,例如d(x,y)指的是x與y兩個元素之間的距離,而範數是針對乙個元素來說的。每個元素都對應乙個範數,可以將範數理解為乙個元素到零點的距離(只是理解,不是定義),也就是它自己的長度。

定義範數也要滿足如下三個條件:

(1)非負性:||x|| ≥ 0;

(2)||ax||=|a| ||x||;即裡面的數乘可以提出來

(3)||x|| + ||y|| ≥ ||x+y|| 滿足三角不等式

線性賦範空間就是定義了加法、數乘和範數的空間

定義了內積的空間就是內積空間

內積的定義如下:

(1)對稱性:=

(2) 對第一變元的線性性質,即= a

(3) 正定性

只有了定義內積,才會有夾角的概念,才會有正交的概念,另外內積也可以定義範數,也就是說內積是比範數更具體地乙個概念。

在定義希爾伯特空間之前,我們還有乙個概念,即完備的空間

首先我們看一下它的定義:如果乙個空間是完備的,那麼該空間中的任何乙個柯西序列都收斂在該空間之內。

那啥又要是柯西序列呢?

柯西序列就是隨著序數增加,值之間的距離越來越小的序列;也就是說,柯西序列在去掉有限個值之後,使任意兩個值之間的距離都小於任意給定正常數(其實這裡就是定義了乙個極限)

所以我們可以這樣理解完備:在乙個空間上我們定義了極限,但是不論你怎麼取極限,它的極限值都不會跑出這個空間,那麼這個空間就是完備空間。

現在我們可以定義希爾伯特空間了,希爾伯特空間就是完備的內積空間

再生希爾伯特空間 再生核希爾伯特空間與核方法

對於乙個實對稱矩陣 那麼,是矩陣 的特徵值,而 是對應的特徵向量。如果 有兩個不同的特徵值 和 對應不同的特徵向量 和 且 則有最左邊和最右邊相等,但是由於 那麼一定有 即 和 正交。也就是說任意兩個特徵向量一定是正交的。對於矩陣 我們可以找到 個特徵值及其對應的特徵向量。那麼,可以按如下的形式進行...

再生核希爾伯特空間1 希爾伯特空間

再生核希爾伯特空間首先一定是希爾伯特空間,所以先介紹希爾伯特 hilbert 空間 設 e 非空集合,h 為定義在e 上的線性空間 h h c h,h h,h 1 2h 若h是完備的,則按照上述定義的h 是hilbert 空間.設h為有限維復函式空間,基 f 1,f2 f n 則 f h可以寫做f1...

再生核希爾伯特空間 預備知識1

拿到reproducing kernel hilbert spaces in probability and statistics數月有餘,這都2016年了,還是撿起來念一念吧 念這本書的心情是複雜的,過程是困難的 買書如山倒,讀書如抽絲 這部分就先來說說空間,這個可以參考一下理解矩陣中關於空間的描...