中心極限定理
類條件概率密度：已知目標的類別（事件發生）為ω
k\omega_k
ωk的情況下，目標的某一特徵（促成事件的條件，另乙個事件）x
xx的概率密度p(x
∣ωk)
p(x|\omega_k)
p(x∣ωk
)。先驗概率：所有條件未知的情況下，事件發生的概率。
最小風險貝葉斯決策
例：假設觀測到現象（事件）x
xx後查出某細胞是腫瘤細胞（事件ω
2\omega_2
ω2）的後驗概率p(ω
2∣x)
p(\omega_2|x)
p(ω2∣
x)為0.818，反之p(ω
1∣x)
p(\omega_1|x)
p(ω1∣
x)為0.182。
決策\實際結果
ω
1\omega_1
ω1ω
2\omega_2
ω2a
1a_1
a1λ(a
1,ω1
)=
0\lambda(a_1, \omega_1) = 0
λ(a1,
ω1)
=0λ (a
1,ω2
)=
6\lambda(a_1, \omega_2) = 6
λ(a1,
ω2)
=6a
2a_2
a2λ(a
2,ω1
)=
1\lambda(a_2, \omega_1) = 1
λ(a2,
ω1)
=1λ (a
2,ω2
)=
0\lambda(a_2, \omega_2) = 0
λ(a2,
ω2)
=0設將結果判定為ω
2\omega_2
ω2的決策表示為a
2a_2
a2，反之為a
1a_1
a1，則ω
1\omega_1
ω1錯判為a
2a_2
a2的風險為1
∗0.818
1*0.818
1∗0.81
8，ω2
\omega_2
ω2錯判為a
1a_1
a1的風險為6
∗0.182
6*0.182
6∗0.18
2，按風險最小的原則，應當選擇決策a
2a_2
a2。
切比雪夫不等式
p ≤σ
2ε
2p\\leq \frac
p≤ε2σ2
切比雪夫不等式給出了在隨機變數的分布未知，只知道e(x
)e(x)
e(x)
和d (x
)d(x)
d(x)
的情況下的估計概率p
p\p的界限。
引數分布（parametric distribution）
少量可調節的引數控制了整個該概率分布
適定問題是指定解滿足下面三個要求的問題：① 解是存在的；② 解是唯一的；③ 解連續依賴於定解條件，即解是穩定的。這三個要求中，只要有乙個不滿足，則稱之為不適定問題。
線性回歸問題中的正則化
如果引數對應乙個較小的值，那麼會得到形式更加簡單的假設。懲罰高階引數，使它們趨近於0，這樣就會得到較為簡單的假設，也就是得到簡單的函式，這樣就不易發生過擬合。但是在實際問題中，並不知道哪些是高階多項式的項，所以在代價函式中增加乙個懲罰項/正則化項，將代價函式中所有引數值。
對於方差形式的損失函式：
e (w
)=12
∑n=1
n[y(
xn,w
)−t]
2+λ2
∣∣w(
k)∣∣
2e(w) = \frac \sum _^ [y(x_n,w)-t]^2 + \frac ||w_||^2
e(w)=2
1n=
1∑n
[y(x
n,w
)−t]
2+2λ
∣∣w
(k)
∣∣2通過對其求導來求區域性最小值，當λ
\lambda
λ越大對w(k
)w_
w(k)
的抑制作用就越大。
gamma函式
γ (x
)=∫0
∞ux−
1e−u
du
\gamma(x) = \int_0^ u^e^du
γ(x)=∫
0∞u
x−1e
−udu
模式識別學習筆記（一）模式識別初認識
這是本人第一次寫部落格，把學到的東西以及自己的理解用類似於學習筆記的形式表達出來。如果有不妥的地方，希望大家指正。謝謝！一 模式識別的定義 關於模式識別 pattern recognition 的定義，首先要了解模式和識別分別是什麼含義。有教材指出模式是指組成成分或影響因素間存在確定性或隨機性規律的...
模式識別 學習筆記 1緒論 什麼是模式識別
2 模式的分類 3 模式識別系統的基本構成 模式識別方法及其分類 概念解釋 模式把純在於空間和時間的可觀測事物的全體成為模式 模式類把由彼此相似的模式構成的集合稱為模式類 模式類別 把賦予每個模式類的識別符號稱為模式類別 理解 模式識別就是把存在的事物進行分類，這些存在的事物我們稱為模式，結構相似的...
小白模式識別學習筆記（0）
1 環境搭建opencv3.4.1 cmake vc2017 社群版 拜小白教你opencv3.2.0 vs2017開發環境配置 opencv3.4 cmake vs2013 opencv學習之路 二 環境搭建 opencv版本和vs版本可能略有差異，但是總體流程還是很類似的 整個搭建環境到第乙個簡...