全概公式和貝葉斯公式的理解

2021-09-14 03:35:19 字數 1890 閱讀 4113

條件概率

首先,理解這兩個公式的前提是理解條件概率,因此先複習條件概率。

p(a|b)=p(ab)p(b)

理解這個可以從兩個角度來看。

第乙個角度:在b發生的基礎上,a發生的概率。那麼b發生這件事已經是個基礎的條件了,現在進入b已經發生的世界,看看a發生的概率是多少。那麼分子就是b發生a也發生,分母就是b這個世界發生的概率了。分母如果是1,那麼成了什麼意思呢?

另乙個角度是看韋恩圖。這裡a在b發生的基礎上發生的概率是a和b交集的陰影部分面積占用b的比例。

那麼由條件概率出發,看一下變形出來的乘法公式:

p(ab)=p(a)⋅p(b|a)=p(b)⋅p(a|b)

也可以提供上面的兩個角度來理解這個公式,雖然可以由上面的直接推導,但是我們認為這是問題的思考的不同角度,不僅僅是公式之間的運算。

一:ab同時發生的概率是在a基礎上發生b的概率乘以a本身在外部發生的概率,也是b基礎上發生a的概率乘以b本身在外部發生的概率.

二:ab表示的是陰影部分的面積占用a或者b的比例關係。

僅僅從形式上說,豎線後面的要在前面多乘以乙個以達到平衡。

全概率然後再看全概率公式。

乙個別人舉的例子:

乙個村子與三個小偷,小偷偷村子的事件兩兩互斥,求村子被偷的概率。

解釋:假設這三個小偷編號為a1,a2,a2;

偷東西的事件標記為b,不偷的話標記為:b¯¯¯

那麼被偷的概率就是:要麼是a1,要麼是a2,要麼是a3,

如果是a1, 概率是什麼呢?首先得是a1,其次是村子被偷,也即是兩個事件都滿足,所以是p(a1b)

同理,可以得到p(a2b),p(a3b)

又因這三個小偷兩兩互斥,表示不會同時去偷。所以被偷的概率是:

p(b)=p(a1b)+p(a2b)+p(a3b)

當然按照條件概率或者乘法公式展開:

p(b)=p(a1)p(b|a1)+p(a2)p(b|a2)+p(a3)p(b|a3) (*)

ps: p(ai),p(b|ai)是已知的

問:是不是有想展開為:

p(b)=p(b)p(a1|b)+p(b)p(a1|b)+p(b)p(a1|b)的衝動?

當然這個式子是沒錯的,但是體現不了這個問題的解法:分階段。

(*)式子體現的是問題分為兩個階段:

1)選人,分割問題

2)計算分割的子問題的條件概率

對應的這裡來便是:

1)選小偷,誰去偷

2)選定的小偷作為條件,那麼他去偷的條件概率是什麼

所以將問題拆解為階段的問題便是全概率公式針對的問題。

貝葉斯公式

貝葉斯公式有意思極了,簡單說就是逆全概公式。

前面是問總體看來被偷的概率是多少,現在是知道了總體被偷了這件事,概率並不知道,問你個更有意思的問題,像是偵探斷案:是哪個小偷的偷的,計算每個小偷偷的概率。

這個特性用在機器學習,人工智慧領域相當好用。

也就是求:p(ai|b)=p(aib)p(b)

ai:小偷i幹的;b:村子被偷了

首先是乙個淳樸的條件概率的展開。

分母裡出現了p(b),剛剛討論的全概公式拿來用一用!

而p(aib)=p(ai)⋅p(b|ai)

對應到上面的例子就鮮活一些:村子被偷了,求ai偷的概率。

自然現在條件是p(b),分子變形為p(aib)=p(ai)⋅p(b|ai),是因為假定就是ai偷的,這是乙個已知的概率。

分母p(b)=∑ni=1p(ai)p(b|ai)

20161223 update:

除了上面的思路外,通常需要注意的是分階段意味著時間的先後。在先進行的事件的基礎上進行後面的事件,就很容易計算概率:p(ab)=p(a)p(b|a)這種。

所以當我們需要計算先驗概率,即先發生的時間的概率時,總是想著用上面的這個型別來計算,且是通過條件概率進行過渡。

全概公式和貝葉斯公式的理解

全概公式和貝葉斯公式的理解 首先,理解這兩個公式的前提是理解條件概率,因此先複習條件概率。p a b p ab p b 理解這個可以從兩個角度來看。第乙個角度 在b發生的基礎上,a發生的概率。那麼b發生這件事已經是個基礎的條件了,現在進入b已經發生的世界,看看a發生的概率是多少。那麼分子就是b發生a...

全概率公式和貝葉斯公式

一 概念回顧 1.若事件a1,a2,an構成乙個完備事件組且都有正概率,則對任意乙個事件b,有公式 p b p a1 p b a1 p a2 p b a2 p a3 p b a3 p an p b an 即 此公式即為全概率公式。2.事件a1,a2,an構成乙個完備事件組且都有正概率,則貝葉斯公式為...

理解全概率公式與貝葉斯公式

在概率論與數理統計中,有兩個相當重要的公式 全概率公式與貝葉斯公式。然而很多人對這兩個公式感到非常迷茫。一來不知道公式背後的意義所在,二來不知道這些冰冷的公式能有什麼現實應用。在講全概率公式之前,首先要理解什麼是 完備事件群 我們將滿足 bibj i j b1 b2 role presentatio...