再論貝葉斯公式

2021-07-04 08:31:14 字數 976 閱讀 3667

在之前的文章(貝葉斯方法及其應用(1))中我們談到了貝葉斯公式,也提到了後驗概率 = 先驗概率*標準相似度。

那麼對於貝葉斯公式p(a│b)=p(a∩b)/p(b) =p(a)(p(b|a))/p(b) ,之前提到如果」可能性函式」p(b|a)/p(b)>1,意味著」先驗概率」被增強,事件a的發生的可能性變大;如果」可能性函式」=1,意味著b事件無助於判斷事件a的可能性;如果」可能性函式」<1,意味著」先驗概率」被削弱,事件a的可能性變小。

這其中包含怎樣的事實含義呢?

我們還是來看之前的例子:

現分別有 a,b 兩個容器,在容器 a 裡分別有 7 個紅球和 3 個白球,在容器 b 裡有 1 個紅球和 9 個白球,現已知從這兩個容器裡任意抽出了乙個球,且是紅球,問這個紅球是來自容器 a 的概率是多少?

ok,我們要求p(a│紅),根據貝葉斯公式有:

p(a│紅) = p(a) p(紅│a)/p(紅)

那麼根據全概率公式有:p(紅) = p(a)p(紅│a) + p(b)p(紅│b)

那麼對於標準相似度

p(紅│a)/p(紅) = 1/(p(a)+p(b)*p(紅│b)/p(紅│a)) = 1/(1+p(b)(p(紅│b)/p(紅│a)-1))

由此知道,當p(紅│b) > p(紅│a),對先驗概率減弱,反之加強。

這顯然符合我們的思維,那就是如果a容器裡紅球比例高,現在摸到紅球,顯然是對摸a概率加強。

上述過程也體現了一種分類的思想,根據隱狀態(紅球白球),歸類為a類、b類。

再舉乙個例子:

小明出去找同學瘋玩了一下午,晚上回到家,媽媽問小明哪去了,小明說」到同學家去學習了」,媽媽不太相信,小明掏出以前寫的作文說「娘親,這是我今天寫的作文,媽媽說「恩,不錯,去吃飯吧」

這就是生活中的貝葉斯公式思想,套用上面的公式就是小明出去學習寫了篇作文的概率大於小明出去玩寫了篇作文的概率,所以增強了小明今天學習的可信度,所以小明利用貝葉斯公式的思想成功騙過媽媽(這樣做,不好啦~,想玩可以說嘛)

貝葉斯公式

貝葉斯定理由 英國數學家貝葉斯 thomas bayes 1702 1763 發展,用來描述兩個條件 概率之間的關係,比如 p a b 和 p b a 按照 乘法法則 p a b p a p b a p b p a b 可以立刻匯出 如上公式也可變形為 p b a p a b p b p a 例如 ...

貝葉斯公式

貝葉斯定理由英國 數學家貝葉斯 thomas bayes 1702 1763 發展,用來描述兩個條件 概率之間的關係,比如 p a b 和 p b a 按照乘法法則 p a b p a p b a p b p a b 可以立刻匯出 貝葉斯定理公式 p a b p b a p a p b 如上公式也可...

貝葉斯公式

是基於樸素貝葉斯定理分類器,其計算過程是在訓練階段的時候,先計算每個分類的先驗概率p a 和各個分類下面特徵屬性的條件概率p b a 的過程 反推特徵 分類的條件概率 a b 取最大概率作為分類結果。貝葉斯定理 已知a 分類 的條件概率,b 某個特徵 在a發生後的條件概率,求a在b發生後的條件概率 ...