機器學習數學基礎之概率論01 貝葉斯公式

2021-08-16 04:02:50 字數 718 閱讀 4058

1.事件a的概率是乙個非負實數:p(a)≥0。

2.合法命題(必然事件)的概率為1。

3.對兩兩不相交(互斥)事件

聯合概率:p(a,b)=p(a|b)*p(b)

條件概率:p(a|b)=p(a,b)/p(b)

*給定任意b,若p(b)>0,則p(·|b)也是乙個概率,即滿足概率的三個概率公理:

1.事件a在b的條件下的概率是乙個非負實數:p(a|b)≥0。

2.合法命題(必然事件)在b的條件下的概率為1。

3.對兩兩不相交(互斥)事件

p(ab)=p(b|a)p(a)令a1,...,ak為a的乙個劃分(兩兩互斥且合為1),則對任意事件b,有

令a1,...,ak為a的乙個劃分,若對於每個k,若p(b)>0,則對每個p(ak)>0,有

*推導:由條件概率可得:p(ak|b)=p(akb)/p(b)。則p(akb)=p(b|ak)p(ak),即為分子;

*簡記:分子分母形式相同,分母為所有劃分之和。

後續將給出條件概率的應用,未完待續......

機器學習數學基礎之概率論與統計04 非引數估計

非引數估計指不知道分布型別,對樣本進行模型估計。一般只用在一維和二維。具體概念詳見課件 直方圖與初高中所理解的直方圖沒什麼不同,直方圖估計就是採用直方圖的方式來對資料進行擬合。顯然地,箱子 的寬度1 m能夠更準確更細緻地展示資料的分布 但如果1 m過小,導致有些箱子裡沒有資料,這個時候p x 將會出...

概率論基礎學習筆記

參考 胡淵明2013國家集訓隊 資訊學競賽中概率論的基礎與應用 初等概率論有三個重要成分,分別是樣本空間 omega 我們一般記其每個元素為 omega 事件集合 f 和概率測度 p 我們常說的事件,實際上是樣本空間 omega 的某個子集.所有事件的集合記為 f 所以說 f 是集合的集合 實際上我...

機器學習演算法數學基礎之 統計與概率論篇(3)

p a 是 a 的先驗概率,之所以稱為 先驗 是因為它不考慮任何 b 方面的因素。p b a 是已知 a 發生後 b 的條件概率,也由於得自 a 的取值而被稱作 b 的後驗概率。p b 是 b 的先驗概率。圓面積 pi r 2,正方形面積 2r 2r 4r 2 在正方形內隨機取乙個點,要求每次取的點...