05 離散 連續 多維隨機變數及其分布 概念點

2021-09-26 22:34:23 字數 1407 閱讀 1669

樣本空間

定義:隨機試驗e的所有結果構成的集合稱為e的 樣本空間,記為s=,稱s中的元素e為樣本點,乙個元素的單點集稱為基本事件.

條件概率

條件概率就是事件a在另外乙個事件b已經發生條件下的發生概率。條件概率表示為p(a|b),讀作「在b條件下a的概率」。

聯合概率表示兩個事件共同發生的概率。a與b的聯合概率表示為

邊緣概率是某個事件發生的概率。邊緣概率是這樣得到的:在聯合概率中,把最終結果中不需要的那些事件合併成其事件的全概率而消失(對離散隨機變數用求和得全概率,對連續隨機變數用積分得全概率)。這稱為邊緣化(marginalization)。a的邊緣概率表示為p(a),b的邊緣概率表示為p(b)。

在同乙個樣本空間ω中的事件或者子集a與b,如果隨機從ω中選出的乙個元素屬於b,那麼這個隨機選擇的元素還屬於a的概率就定義為在b的前提下a的條件概率。從這個定義中,我們可以得出p(a|b) = |a∩b|/|b|分子、分母都除以|ω|得到

有時候也稱為後驗概率。

同時,p(a|b)與p(b|a)的關係如下所示:

全概率公式和貝葉斯公式

1.全概率公式

假設 是乙個概率空間的有限或者可數無限的分割,且每個集合bn是乙個可測集合,則對任意事件a有全概率公式:

又因為所以,此處pr(a | b)是b發生後a的條件概率,所以全概率公式又可寫作:

在離散情況下,上述公式等於下面這個公式:

2、貝葉斯公式

貝葉斯定理(bayes』 theorem),是概率論中的乙個結果,它跟隨機變數的條件概率以及邊緣概率分布有關。在有些關於概率的解說中,貝葉斯定理(貝葉斯更新)能夠告知我們如何利用新證據修改已有的看法。

通常,事件a在事件b(發生)的條件下的概率,與事件b在事件a的條件下的概率是不一樣的;然而,這兩者是有確定的關係,貝葉斯定理就是這種關係的陳述。

如第二部分所述「據維基百科上的介紹,貝葉斯定理實際上是關於隨機事件a和b的條件概率和邊緣概率的一則定理。

如上所示,其中p(a|b)是在b發生的情況下a發生的可能性。在貝葉斯定理中,每個名詞都有約定俗成的名稱:

按這些術語,bayes定理可表述為:後驗概率 = (相似度*先驗概率)/標準化常量,也就是說,後驗概率與先驗概率和相似度的乘積成正比。另外,比例p(b|a)/p(b)也有時被稱作標準相似度(standardised likelihood),bayes定理可表述為:後驗概率 = 標準相似度*先驗概率。」

綜上,自此便有了乙個問題,如何從從條件概率推導貝葉斯定理呢?

根據條件概率的定義,在事件b發生的條件下事件a發生的概率是

同樣地,在事件a發生的條件下事件b發生的概率

整理與合併這兩個方程式,我們可以找到

這個引理有時稱作概率乘法規則。上式兩邊同除以p(b),若p(b)是非零的,我們可以得到貝葉斯定理:

多維隨機變數及其聯合分布

目錄若 x,y 是兩個定義在同乙個樣本空間上的隨機變數,則稱 x,y 是二維隨機變數 boldsymbol boldsymbol,boldsymbol boldsymbol leq boldsymbol cap boldsymbol leq boldsymbol 這其實是乙個很需要仔細想想的概念,我...

連續型隨機變數

1.對於乙個連續型隨機變數,它取任何固定值的概率都等於0。因此,對於連續隨機變數,下式成立 f a a f x dx p a f x dx df a da f a f a 可看作隨機變數取值於點a附近的可能性的乙個度量。3.連續型隨機變數的期望e x xf x dx,方差可根據var x e x2 ...

概率論知識回顧(五) 隨機變數,離散隨機變數分布

重點 隨機變數,離散隨機變數分布 知識回顧用於鞏固知識和查漏補缺。知識回顧步驟 檢視知識回顧中的問題,嘗試自己解答 自己解答不出來的可以檢視下面的知識解答鞏固知識。對知識解答有疑問的,說明有關這一點的知識或者公式沒有理解透徹或者沒有記住,要重新翻看書籍。什麼是隨機變數?隨機變數的作用是什麼?為什麼要...