樸素貝葉斯法

2021-07-22 10:53:50 字數 923 閱讀 5846

貝葉斯理論體系都是建立在那個眾所周知的貝葉斯公式上,貝葉斯原理簡單,一些名家所言,裡面蘊含著深奧的道理,樸素貝葉斯法是一種簡單的分類方法,在機器學習領域廣泛應用。在網上經常看到各個版本的貝葉斯分類器的實現,不過總是感覺由以下兩點沒有陳述清楚,其一,針對連續型變數的處理沒有給出具體的顯式表示式;其二,**與文字摻雜,多數初學者看不下去。下面給出具體實現,連續型變數經過了測試,離散型變變數沒有經過測試,可能會有bug。

a<-c(1,0,1,1,0,1,0,1,0,0)

b<-c(0.1,-0.1,0.2,0.3,-0.2,0.4,-0.2,0.3,-0.1,-0.3)

c<-c(5,3,6,7,2,5,1,7,1,2)

d<-c(1,10,2,3,8,7,3,9,2,2)

e<-c(-1,-10,2,5,3,0,1,2,2,4)

data<-cbind(a,b,c,d,e)

#caculate prior probability

#do not consider other terms to caculate the probability

priorpfun<-function(y)

#caculate post probability

#gauss-distribution

contiousfun<-function(x,y,condition)

#dicrete distribution

dicretefun<-function(x,y,condition)

#predict function

bayespre<-function(x,y,condition)else

return(ifelse(m1>m2,0,1))

} bayespre(data[,-1],data[,1],data[1,-1])

樸素貝葉斯法

樸素貝葉斯法是基於貝葉斯定理與特徵條件獨立假設的分類方法。簡單來說,樸素貝葉斯分類器假設樣本每個特徵與其他特徵都不相關。舉個例子,如果一種水果具有紅,圓,直徑大概4英吋等特徵,該水果可以被判定為是蘋果。儘管這些特徵相互依賴或者有些特徵由其他特徵決定,然而樸素貝葉斯分類器認為這些屬性在判定該水果是否為...

樸素貝葉斯法

文章記錄的內容是參加datawhale的組隊學習統計學習方法 第二版 習題解答過程中的筆記與查缺補漏!參考解答位址 樸素貝葉斯法。解答思路 先回顧一下用極大似然法估計樸素貝葉斯引數的過程。既然是估計引數,那麼先明確一下樸素貝葉斯中有哪些引數 p y c k 和 p x j x j mid y c k...

樸素貝葉斯

樸素貝葉斯演算法是一種基於概率統計的分類方法,它主要利用貝葉斯公式對樣本事件求概率,通過概率進行分類。以下先對貝葉斯公式做個了解。對於事件a b,若p b 0,則事件a在事件b發生的條件下發生的概率為 p a b p a b p b 將條件概率稍作轉化即可得到貝葉斯公式如下 p a b p b a ...