貝葉斯公式推導

2022-07-12 16:30:18 字數 1941 閱讀 3238

樣本空間:-->乙個試驗所有可能結果的集合,用 ω 表示。所以p(ω) = 1

事件:樣本空間的乙個子集。用a、b、c表示。

其實p(a|b)與p(ab)很相似,即「a和b都會發生」。

我們換一句話來解釋這個p(ab):「在所有可能的結果下,a和b都發生的概率」。而這個「所有可能的結果的概率」就是樣本空間的概率,也就是1。

用條件概率來表示就是

p(ab) = p(ab) / p(ω)

即:p(ab) = p(ab) / 1

而p(a|b)則有稍許的不同,雖然還是p(a)和p(b)都會發生,但給出了乙個大前提「b事件發生的前提下,a和b都發生的概率(表面上是a發生,其實是a和b都發生,因為p(ab)和p(a|b)在發生數量上沒有區別,僅僅是p(a|b)加了個先後順序)」,所以條件概率的分母變成了p(b)

即:p(a|b) = p(ab)/p(b)

首先要有乙個樣本空間集合(如圖中的s),我們後面的所有概率事件都要在這個樣本空間裡。

然後我們將整個樣本空間劃分成n個子集(也可說n塊空間,如圖中的b1~bn),這n個子集共同可以構成乙個樣本空間s,每個子集都可以看成乙個單獨事件,這n個事件我們可以稱之為「完備事件組」。

我們的任意乙個事件,必然在樣本空間裡(如圖中的紅色圓圈),如圖所示,這個任意事件肯定會和

完備事件組中的各個事件「或多或少的產生交集」。

我們假設中間的任意事件概率為p(a)

我們可以通過將a與所有的完備事件「相交的部分」相加而找出p(a).

這些相交的部分自然就是:p(ab1),p(ab2)·······p(abn)

即:p(a) = p(ab1) + p(ab2) + ······· + p(abn)

根據條件概率可知p(ab) = p(a|b)p(b) = p(b|a)p(a)

所以可將公式轉化成p(a) = p(a|b1) p(b1)+ p(a|b2) p(b2)+ ······· + p(a|bn)p(bn)

即:上面這個就是全概率公式。

由此可見,用全概率公式的前提是:

我們要求任意事件p(a),

在我們知道完備事件組中各事件與a事件的交集概率的情況下,我們將事件a拆成所有交集的和。

貝葉斯公式核心是,知道某一條件概率後,找出這個條件發生的原因。

這麼說可能抽象了點。

舉個栗子:我們知道了b發生後a發生的概率p(a|b),由此我們可以用貝葉斯公式推出a發生後b發生的概率。

貝葉斯公式可以根據條件概率和全概率公式推導出來。

在推導之前有幾個提前假設:

1、ai概率事件是某乙個完備概率組中的事件,該完備事件組有n個事件,ai是其中乙個。1<=i<=n(如a事件與非a事件,這兩事件就能構成乙個完備事件組)

推導過程如下:

根據條件概率有:

原式 =p(ai|b) = p(aib) / p(b)

將b事件與a事件所屬的完備概率組做全概率公式後,將p(b)展開得:

原式 =p(ai|b) = p(aib) / ( p(b|a1)p(a1) + p(b|a2)p(a2) +······+p(b|an)p(an) )

此時我們可看出,我們求的是p(ai|b),而分母已經全被我們轉化成了p(b|a)的條件。

接下來我們利用條件概率將分子也轉化成p(b|a)的條件樣式

即:p(ab) = p(a|b)p(b) = p(b|a)p(a)

所以繼續轉化原式分子得:

原式 =p(ai|b) = p(b|ai)p(ai) / ( p(b|a1)p(a1) + p(b|a2)p(a2) +······+p(b|an)p(an) )

最後這個公式就是貝葉斯公式

全概率公式 貝葉斯公式推導過程

1 條件概率公式 設a,b是兩個事件,且p b 0,則在事件b發生的條件下,事件a發生的條件概率 conditional probability 為 p a b p ab p b 2 乘法公式 1.由條件概率公式得 p ab p a b p b p b a p a 上式即為乘法公式 2.乘法公式的推...

全概率公式 貝葉斯公式推導過程

1 條件概率公式 設a,b是兩個事件,且p b 0,則在事件b發生的條件下,事件a發生的條件概率 conditional probability 為 p a b p ab p b 2 乘法公式 1.由條件概率公式得 p ab p a b p b p b a p a 上式即為乘法公式 2.乘法公式的推...

貝葉斯公式

貝葉斯定理由 英國數學家貝葉斯 thomas bayes 1702 1763 發展,用來描述兩個條件 概率之間的關係,比如 p a b 和 p b a 按照 乘法法則 p a b p a p b a p b p a b 可以立刻匯出 如上公式也可變形為 p b a p a b p b p a 例如 ...