模式分類之貝葉斯決策入門

2021-07-10 13:16:57 字數 523 閱讀 9960

初學模式分類,使用經典的duda教材。

最初理解貝葉斯決策理論,無法理解「貝葉斯概率公式」。

我認為貝葉斯決策理論在描述這樣乙個事情:

1、假設能夠用概率描述「世界的存在狀態」;

在我對概率最初的理解上,我總是認為概率是用來描述未發生的事情。比如拋一枚硬幣,正面的可能性是多少,在拋之前我們需要進行概率估計,所以這件事情是尚未發生的。但是現在逐漸感覺到,概率實際上是用來描述「客觀世界的」,未發生的事情不代表不存在。只要是人類能夠描述的事情,都是一種存在;

2、有這樣四個空間:特徵空間x,對應p(x);類別空間p(w);在x條件下的w空間,對應p(w|x);在wj條件下的x空間,對應p(x|wj);

使用此四個概率空間,描述需要判斷的「具體事件」,即這四個空間能夠唯一確定乙個存在。

通過貝葉斯公式,把這四個概率空間聯絡起來。

3、使用損失函式r作為決策指標,損失函式r尤其特定的定義,定義能夠幫助人類做出最有利於生產的決策;

以上就是我對貝葉斯決策理論的初步理解,有許多細節還需要進一步的完善與細化。

貝葉斯分類

貝葉斯分類 有意義區分和無意義區分 既然要區分兩種點那麼兩種點必然有區別,當區分有區別的點時說是有意義區分。而完全區分那種一模一樣的點則是無意義區分。所以我們所討論的都是有意義的區分。完全區分和不完全區分 貝葉斯分類器是一種概率上的區分,而假如兩種點一種是黑的一種是白的那不需要用貝葉斯分類器區分,因...

貝葉斯分類

樸素貝葉斯模型是一組非常簡單快速的分類演算法,通常適用於維度非常高的資料集,因為執行速度快,而且可調引數少,因此非常適合為分類問題提供快速粗糙的基本方案。貝葉斯分類 樸素貝葉斯分類器建立在貝葉斯分類方法上,其數學基礎是貝葉斯定理,乙個描述統計計量條件概率關係的公式。在貝葉斯分類中,我們希望確定乙個具...

貝葉斯決策論

1 什麼是行為?但是,有時候,後驗概率本身只能說明具有特徵x的樣本屬於 i類的可能性有多少,卻沒能表示如果將樣本分到 i類時的代價有多大。在此,引入行為的概念 分類器的設計初衷很簡單,就是進行 分類 這一動作。假設現在來了乙個具有特徵x的樣本,如果將 把樣本分入 i類 這一行為記為動作ai的話,我們...