貝葉斯概率

2021-10-25 05:08:50 字數 2995 閱讀 6595

p (a

∣b)=

p(a)

p(b∣

a)p(

b)

p(a|b) = p(a)\frac

p(a∣b)

=p(a

)p(b

)p(b

∣a)​p(

a∣b)

p(a|b)

p(a∣b)

:條件概率,事件b發生的條件下,事件a發生的概率,也叫a的後驗概率

p (a

)p(a)

p(a)

: 先驗概率,事先不知道任何條件時a的概率。

​ 比如,2023年8月15號天氣是晴天的概率,這個事件太久遠了,在不知道其它的條件下,就按照生活經驗得到,先驗概率p(a

)p(a)

p(a)

=0.7,但是,通過去查詢天氣記錄,知道了2023年8月14號是雨天,這個時候再去計算p(a

)p(a)

p(a)

,就是乙個後驗概率的問題,p(a

∣b

)p(a|b)

p(a∣b)

的概率值可能就小於0.7了。

語音增強中,

​ 我們的目標都是想要得到先驗訊雜比(訊號功率比上雜訊功率),但是一般麥克風直接錄音得到的都是帶噪訊號,無法直接獲取純淨語音頻號,這個時候其實就是得到了後驗訊雜比(帶噪語音功率比上雜訊功率),需要通過後驗訊雜比得到先驗訊雜比。

語音識別中,

p (w

∣o)=

p(w)

p(o∣

w)p(

o)

p(w|o) = p(w)\frac

p(w∣o)

=p(w

)p(o

)p(o

∣w)​

已知觀測到語音序列o,要計算最有可能的詞序列w,這也是乙個後驗概率計算的問題,通過貝葉斯公式展開後,p(w

)p(w)

p(w)

是語言模型,p(o

∣w

)p(o|w)

p(o∣w)

是已知語言序列計算語音序列概率,也即是聲學模型

公式解釋

條件概率=先驗概率*調整因子

調整因子:知道一些事實後,對先驗知識進行調整

計算舉個簡單例子方便理解計算過程:

兩個碗:|1號和 | 2號 |

1號碗2號碗糖

3020

巧克力10

40動作:隨機取一顆零食

事件:拿到了一顆巧克力,

問題:這顆巧克力來自於1號碗的概率是多少

分析:事件b:拿到了巧克力

事件a:來自於1號碗

求條件概率p(a

∣b

)p(a|b)

p(a∣b)

按照貝葉斯公式展開

p (a

∣b)=

p(a)

p(b∣

a)p(

b)

p(a|b) = p(a)\frac

p(a∣b)

=p(a

)p(b

)p(b

∣a)​

p (a

)p(a)

p(a)

:先驗概率,零食來自於1號碗的概率,這個時候只考慮零食來自於哪個碗,不分零食種類,那就是1號碗的零食數除以總零食數,因此p(a

)=

40100

=0.4

p(a)=\frac=0.4

p(a)=1

0040

​=0.

4 p (b

∣a

)p(b|a)

p(b∣a)

:選了1號碗,並且拿到了巧克力,這個也好算,p(b

∣a)=

10(10+

30)

=0.25

p(b|a)=\frac=0.25

p(b∣a)

=(10

+30)

10​=

0.25p(

b)

p(b)

p(b)

:拿到了巧克力的概率,這個也是先驗概率,沒有任何條件下,巧克力可能來自1號碗,也可能來自2號碗,那就分別算來自1號碗和來自2號碗的概率,再相加

p (b

)=10(

10+30)

∗0.4+40

(40+20

)∗(1

−0.4)=

0.5p(b) = \frac*0.4 + \frac*(1-0.4)=0.5

p(b)=(

10+3

0)10

​∗0.

4+(4

0+20

)40​

∗(1−

0.4)

=0.5

因此p (a

∣b)=

p(a)

p(b∣

a)p(

b)

=0.4

∗0.25

0.5=

0.2\begin p(a|b) &= p(a)\frac \\ &=0.4 * \frac \\ &=0.2 \end

p(a∣b)

​=p(

a)p(

b)p(

b∣a)

​=0.

4∗0.

50.2

5​=0

.2​這裡調整因子p(a

)p(b

∣a)p

(b

)<

1p(a)\frac<1

p(a)p(

b)p(

b∣a)

​<

1,表示觀測到的事實讓先驗概率降低了,具體對應到這個例子裡就是拿到了巧克力後,再判斷零食來自1號碗的先驗概率應該更低了,看資料,2號碗的巧克力更多,那麼從2號碗拿到巧克力的概率肯定更大,因此,拿到了是巧克力,就應該將零食來自1號碗的概率調低,符合客觀感覺。同理,如果拿到的是糖,則對來自於1號碗調整因子就會大於1。

貝葉斯概率

貝斯公式和全概率公式的意思差不多相反。全概率公式是說 某件事情的發生可以由很多情況導致,那麼這件事情發生的概率,就是每件事情導致他發生的概率,乘以每件事情發生的概率。貝斯公式的意思是 某件事情還是由剛才所說的那些事件引起的,你已經知道某件事情發生了,那麼他是由哪件事情引起的呢?就可以又貝斯公式a事件...

貝葉斯概率

貝葉斯定理 bayes theorem 貝葉斯定理中的分母可以用出現在分子中的項表示 可以把貝葉斯定理的分母看做歸一化常數,用來確保公式左側的條件概率對於所有 的y 的取值之和為1。在觀察到資料之前,我們有 一些關於引數w 的假設,這以先驗概率p w 的形式給出。觀測資料 d 的效果可以 通過條件概...

條件概率,全概率公式,貝葉斯公式,樸素貝葉斯

本文摘自黃清龍等編著的 概率論與數理統計 我們以乙個例子來闡述樸素貝葉斯思想。例子來自樸素貝葉斯分類 原理 假設根據以前的經驗獲得如下的資料。然後給你乙個新的資料 身高 高 體重 中 鞋碼 中 請問這個人是男還是女?判斷是男還是女,是分類問題,記男為c1,女為c2。身高體重鞋碼是樣本x的屬性,記x1...