條件概率 全概率 貝葉斯公式

2021-10-24 18:11:44 字數 2677 閱讀 2164

參考:

ref:

設a,b是兩個事件,且p(b)>0,則在事件b發生的條件下,事件a發生的條件概率(conditional probability)為:

p(a|b)=p(ab)/p(b)

分析:一般說到條件概率這一概念的時候,事件a和事件b都是同一實驗下的不同的結果集合,事件a和事件b一般是有交集的,若沒有交集(互斥),則條件概率為0,例如:

① 扔骰子,扔出的點數介於[1,3]稱為事件a,扔出的點數介於[2,5]稱為事件b,問:b已經發生的條件下,a發生的概率是多少?

也即,做一次實驗時,即有可能僅發生a,也有可能僅發生b,也有可能ab同時發生,

② 同時扔3個骰子,「三個數都不一樣」稱為事件a,「其中有乙個點數為1」稱為事件b。這一題目中,ab也是有交集的。

用圖更能容易的說明上述問題,我們進行某一實驗,某一實驗所有的可能的樣本的結合為ω(也即窮舉實驗的所有樣本),圓圈a代表事件a所能囊括的所有樣本,圓圈b代表事件b所能囊括的所有樣本。

由圖再來理解一下這個問題:「b已經發生的條件下,a發生的概率」,這句話中,「b已經發生」就相當於已經把樣本的可選範圍限制在了圓圈b中,其實就等價於這句話:「在圓圈b中,a發生的概率」,顯然p(a|b)就等於ab交集中樣本的數目/b的樣本數目。為什麼這裡用的是樣本的數目相除,而上面的公式卻是用的概率相除,原因很簡單,用樣本數目相除時,把分子分母同除以總樣本數,這就變成了概率相除。

1.由條件概率公式得:

p(ab)=p(a|b)p(b)=p(b|a)p(a)    

上式即為乘法公式;

2.乘法公式的推廣:對於任何正整數n≥2,當p(a1a2...an-1) > 0 時,有:

p(a1a2...an-1an)=p(a1)p(a2|a1)p(a3|a1a2)...p(an|a1a2...an-1)

1. 如果事件組b1,b2,.... 滿足

1.b1,b2....兩兩互斥,即 bi ∩ bj = ∅ ,i≠j , i,j=1,2,....,且p(bi)>0,i=1,2,....;

2.b1∪b2∪....=ω ,則稱事件組 b1,b2,...是樣本空間ω的乙個劃分

設 b1,b2,...是樣本空間ω的乙個劃分,a為任一事件,則:

已知:各個a∩bi的樣本數、bi的樣本數,

求a的樣本數 / 總樣本數ω?

上圖中,某一實驗所有的可能的樣本的集合為ω,圓圈a代表事件a所能囊括的所有樣本,把總集合ω分為n個小集合,依次為b1、b2···bn,這些小集合兩兩互斥,那麼顯然,a的樣本數目可以通過與bi的交集來獲得,也即=(a∩b1的樣本數)+(a∩b2的樣本數)+····+(a∩bn的樣本數)。前文已經說過,樣本數公式和概率公式,本質上是一樣的東西。

1.與全概率公式解決的問題相反,貝葉斯公式是建立在條件概率的基礎上尋找事件發生的原因(即大事件a已經發生的條件下,分割中的小事件bi的概率),設b1,b2,...是樣本空間ω的乙個劃分,則對任一事件a(p(a)>0),有

上式即為貝葉斯公式(bayes formula),bi 常被視為導致試驗結果a發生的」原因「,p(bi)(i=1,2,...)表示各種原因發生的可能性大小,故稱先驗概率;p(bi|a)(i=1,2...)則反映當試驗產生了結果a之後,再對各種原因概率的新認識,故稱後驗概率。

已知:各個a∩bi的樣本數、bi的樣本數,

求a∩b3的樣本數 / a的樣本數?

例子:發報臺分別以概率0.6和0.4發出訊號「∪」和「—」。由於通訊系統受到干擾,當發出訊號「∪」時,收報臺分別以概率0.8和0.2受到訊號「∪」和「—」;又當發出訊號「—」時,收報臺分別以概率0.9和0.1收到訊號「—」和「∪」。求當收報臺收到訊號「∪」時,發報臺確係發出「∪」的概率。

解析:貝葉斯這一概念,所**的問題,也是事件a和事件b都是某一實驗的不同的結果集合,然後把事件b這個結果集合分為n小份,每一小份也是結果集合,只不過這些小集合一定位於b集合內部,每一小份結果集合稱為bi(i∈[1,n]),bi之間兩兩互斥,所有bi並起來就是b。

本例中,實驗為「發一次報,收一次報,然後記錄發、收的字元」,事件a為「收到了u」,事件b為"發出了訊號",事件b1為「發出了u」,事件b2為「發出了—」,顯然這裡b1∪b2=b,b1∩b2=∅。要想求p(b1 | a),根據條件概率公式,p(b1 | a)=p(b1 a)/p(a),只要分別計算出分子分母就行了,顯然分子可以用上面的乘法公式來求,分母為已知(若分母未知,就得用全概率公式來求)。

貝葉斯公式,根本不用記憶,其實就是條件概率、乘法公式、全概率公式的組合。

總結:(1)以上四個公式的研究物件,都是「同一實驗下的不同的結果集合」

(2)為了容易理解這四個概率公式,可以把用「樣本數目公式」來代替「概率公式」,來求概率。

條件概率,全概率,貝葉斯公式

王式安的這道題的做法,題幹 在先取出的零件是一等品的條件下,之前選箱子的概率p a 和p b 就是1 2和1 2。這裡錯誤了!正確答案選c 按照他的思想計算公式,1 3 1 1 3 0 1 3 在先選出的球是紅球的條件下,排除第三種情況各佔1 2 顯然錯誤的。錯誤原因就在於忽略了當摸出紅球的時候,他...

條件概率,全概率公式,貝葉斯公式,樸素貝葉斯

本文摘自黃清龍等編著的 概率論與數理統計 我們以乙個例子來闡述樸素貝葉斯思想。例子來自樸素貝葉斯分類 原理 假設根據以前的經驗獲得如下的資料。然後給你乙個新的資料 身高 高 體重 中 鞋碼 中 請問這個人是男還是女?判斷是男還是女,是分類問題,記男為c1,女為c2。身高體重鞋碼是樣本x的屬性,記x1...

關於條件概率,全概率公式,貝葉斯公式

今天看到關於貝葉斯公式的乙個比較全面的應用,但是在看的時候突然發現自己以前對於貝葉斯公式的記憶已經模糊,故從頭開始把概率論這些基本的公式全部重新學習一般,並記錄下來,希望能以乙個淺顯易懂的方式表達出來。下面直接進入正題。首先說條件概率,我們知道現實中一件事情的發生可能會在不同的情況下,那麼在某一種特...