關於Kernel的思考

2022-03-28 22:38:19 字數 1387 閱讀 1076

學習播客_klda(推導得很通俗,下面的推導就是源於此篇部落格)

第一部分:按照自己的理解,模仿抄!學習播客來完成一下klda的推導。

第二部分:對於kernel的思考

klda:顧名思義,就是把kernel運用到了lda上,下面直接推導公式。(原始空間資料$x$,對映之後資料$\phi(x)$)

(1)$j(w) = \frac$ ( we will calculate the $w$ to maximum this formula, and then we finished lda )

(2)$s_b = (\mu_1-\mu_2)(\mu_1-\mu_2)^t$

(3)$s_w = \sum\limits_^ \sum\limits_^x_$ ( $x_$ means $x$$\in$$x_i$, and it's the jth element )

(4)$\mu_i = \frac \sum\limits_^ x_i$

(5)$w=\sum\limits_^ \alpha\phi(x_i)$

kernel:$k(x,x_i) = (\phi(x)·\phi(x_i))$ ( which has a specific formula )

分子部分:$w^ts_bw$ -> $\alpha^tm\alpha$,為什麼就剩下乙個$\alpha$?因為兩個隱式對映$\phi$被我們揉進了核函式k,這裡的m和上面的m意思相同。

分母部分:分母就是暴力乘進去,乘開在這裡僅看其中乙個類

$$ w^t \sum\limits_^ \phi(x_i)-\mu w $$ $\longrightarrow$

$$\sum\limits_^ (wt\phi(x_i)w-wt \mu w)$$ $\longrightarrow$

$$\sum\limits_^ wt\phi(x_i)w-wt \frac \sum\limits_^ \phi(x_i) w$$ ( where $w = \sum\limits_^ \alpha\phi(x_i)$)

然後剩下的就可以用核函式的形式表示了,以便看得較為簡潔(同理,揉進去),分母即為:$\alpha^tn\alpha$,這裡的n就是把除了$\alpha$的部分做乙個變數代換,保持美觀整潔。

此時,我們發現,對映變化$\phi$,早就不出現在式子中了,取而代之的是有著明確公式的核函式k(m,n中都含有k),這就是為何說求$\phi$其實沒有價值的原因,因為它難算還會被替代,如果好算肯定就算它了。那麼我們的目標呢?

$$j(w)=\frac$$ $\longrightarrow$

$$j(\alpha)=\frac$$ ( the answer $\alpha=$ the eig_vector of $n^m$ who has the maximum eig_value )

窺探 kernel 關於中斷

管理系統中的各個裝置是核心的任務,核心可以通過2中方式來實現。1 輪詢 以一定的時間來訪問裝置,參看其狀態並處理。2 中斷 裝置向核心傳送請求,核心再來完成處理。中斷的分類 中斷可分為同步中斷和非同步中斷。同步中斷是由cpu產生的,又稱為內部中斷。這裡的同步是指中斷指令訊號和 同時執行,在一條 執行...

關於博弈的思考

博弈,決策,永恆的主題 在博弈的過程中不要考慮是否公平,而是要考慮是否對你自己有利。這句話很值得思考。人生無時無刻不在博弈,無論是在微觀上,兩個人之間的談話 還是在巨集觀上每次人生抉擇的過程,博弈,總是在乙個恰當的視點上讓人設身處地的感受到。在博弈的過程中,公平與否,很多人都在抱怨 有的時候是與自己...

關於執行的思考

方 的實施,貫穿於軟體開發的整個過程。實施的關鍵在於執行,而執行由很多瑣碎的活動組成。在軟體開發實踐中,執行應該被放到乙個完整的體系環境中去考慮,單純強調執行本身,是無法解決執行問題的。在討論執行這個話題之前,我認為有必要先來看看東西方文化的差異。中國近代哲學史上有一種觀點,即地理環境決定了文化差異...