如何深入理解貝葉斯?

2021-08-21 12:42:28 字數 2928 閱讀 4461

如何理解貝葉斯這個重要的概念?

到底什麼是貝葉斯

bayes是用於推理的,而推理講究證據,所以貝葉斯的推理過程就是通過不斷的收集證據e來增強對假設事件h的信心。換而言之這很類似偵探辦案的例子,假設**是h,福爾摩斯通過不斷蒐集證據,增強自己認定**就是a的信心,這個過程就是貝葉斯。 p(

h|e)

=p(h

)⋅p(

e|h)

p(e)

p (h

|e)=

p(h)

⋅p(e

|h)p

(e

)貝葉斯公式推導:p(

h|e)

=p(h

,e)p

(e)=

p(h)

⋅p(e

|h)p

(b) p(h

|e)=

p(h,

e)p(

e)=p

(h)⋅

p(e|

h)p(

b)

貝葉斯公式和兩個概率有關係: 先驗概率(基礎概率), 後驗概率(觀察到的概率)

貝葉斯的一些小概念

p(h) 是先驗概率。就是沒有任何條件限定下h發生的概率。比如**殺了個人,但是沒有任何證據。

p(h|e)叫後驗概率。就是通過貝葉斯計算最終得到的比較科學的概率。

p(e|h) 叫條件似然,也稱之為似然概率,似然就是時間發生的可能性。

- 物以類聚,人以群分,如果我們把h與~h看作兩類人,比如男人和女人,那麼這兩類人針對同一件事情會有不同的看法和傾向,比如男人可能更喜歡踢足球,而女人可能更喜歡逛街,似然概率描述的就是這兩類不同的人針對事件ei

e

i表現出的傾向概率

- 由於p(e|h)與p(e|~h)是針對兩類不同的人的概率,因此它們之間並不互斥, p(

e|h)

+p(e

|¬h)

≠1p (e

|h)+

p(e|

¬h)≠

1p(e)稱之為整體似然,在所有情況下證據e發生的概率,不管事件h發生還是不發生。因為它起到歸一化的作用,所以又稱為歸一化常量(normalizing constant)。

有關貝葉斯的例子

某城市發生了一起汽車撞人逃跑事件,該城市只有兩種顏色的車,藍色15%,綠色85%,事發時有乙個人在現場看見了,他指證是藍車。但是根據專家在現場分析,當時那種條件能看正確的可能性是80%。那麼,肇事的車是藍車的概率到底是多少?

令b為城市車為藍色車事件, g為城市車為綠色車事件,e為觀察到車子為藍色的事件,不管有沒有人在看到了,則有:

- p(b)就是先驗概率

- p(e)就是傳說中的整體似然,p(e|b)就是條件似然

- p(b|e)就是我們要求的在有證人的情況下,肇事車為藍色的概率,也就是後驗概率

那麼有: p(

b)=0.15;p

(g)=

0.85

p (b

)=

0.15;p

(g)=

0.85

當沒有任何人看到是什麼顏色的時候,只能盲猜,所以為藍色的概率(先驗概率)是: p(

b)=0.15

p (b

)=

0.15

有人看到了肇事車是藍色的,這時候要分成兩種情況,一種是肇事車確實是藍色的,一種是肇事車不是藍色的,所以有: p(

e,b)

=p(b

)p(e

|b)=

0.15

∗0.8

=0.12

p (e

,b)=

p(b)

p(e|

b)

=0.15

∗0.8

=0.12

p(e,¬b)

=p(¬

b)p(

e|¬b

)=0.85∗(

1−0.8)

=0.17

p (e

,¬b)

=p(¬

b)p(

e|¬b

)=

0.85∗(

1−

0.8)

=0.17

所以可以得出: p(

e)=p

(e,b

)+p(

e,¬b

)=0.12

+0.17

=0.29

p (e

)=p(

e,b)

+p(e

,¬b)

=0.12

+0.17

=0.29

那麼後驗概率為: p(

b|e)

=p(e

,b)p

(e)=

0.12

0.29

=0.41

p (b

|e)=

p(e,

b)p(

e)

=0.12

0.29

=0.41

可見通過有人看到這個證據,增強了我們對肇事車輛時藍色車的信心。

參考:怎麼簡單理解貝葉斯公式?

機器學習-貝葉斯分類

樸素貝葉斯演算法 & 應用例項

深度學習入門-貝葉斯規則

lixianmin/cloud

貝葉斯 02 理解貝葉斯

首先簡略回顧一下,全概率和貝葉斯。其實這兩者是密不可分的,互相之間是乙個順序問題,全概率反過去就是貝葉斯,這類問題只需要區分清楚是知道原因求結果,還是知道結果尋原因就可以了。全概率公式是計算由諸多原因而導致的某件複雜事情發生的概率,而貝葉斯就是在這件複雜的事情已經發生的前提下,去尋找諸多原因中,某一...

深入理解線性模型(三) 基於貝葉斯的估計

目錄6.結語 在前兩篇,我們分別從損失函式以及似然函式的角度來窺探了線性模型。接下來,繼續從乙個新的角度 貝葉斯統計來討論一下線性模型。談起貝葉斯,就不得不提先驗概率和後驗概率。先驗概率通常是通過歷史或者經驗得來的,而後驗概率則是綜合利用了先驗資訊和樣本資訊。因此,貝葉斯統計的出發點也是基於後驗概率...

貝葉斯的理解

用概率思考人生 問題 事件a發生後事件b發生的概率與事件b發生後事件a發生的概率這兩者有什麼關係 呢?這兩者之間存在確定的關係,貝葉斯公式描述的這是這兩者之間的確定關係 公式如下 p a b p ab p b p b a p a p b p b a p ab p a p a b p b p a 當p...