bayes 貝葉斯估計與最大似然估計

2021-09-08 09:27:26 字數 321 閱讀 7601

參考:

設資料為d,變數為x,決定概率分布的引數為μ

似然函式:p(d|μ)

後驗概率分布:p(μ|d) = p(d|μ)p(μ) / constant  

1. 用mle方法只能估計出使得似然函式最大時的μ值,而基於bayes的後驗概率法則可以求出μ的後驗概率分布。若需要求得最優的μ則可以用map來獲得。

2. mle求出最優的引數μ後帶回p(x|μ)中,可以對下乙個x進行**。而在bayes框架中,μ的後驗概率分布則可以靈活的使用,如p(x|d) = p(x|μ)p(μ|d)。當然也可以用map求出μ後,像mle一樣帶回p(x|μ)中去**。

貝葉斯估計與最大似然估計

極大似然估計 極大似然估計的基本想法是 我們所看到的,就是最可能發生的。所以通過最大化實驗資料發生的概率 p x 其中引數 是未知的 取極值時對應的 即為最大似然估計。貝葉斯估計p x p x p p x p 表示乙個事件發生的 概率,例如扔乙個硬幣的結果正面朝上的概率,這個 概率 是乙個隨機變數,...

極大似然估計與貝葉斯估計

貝葉斯估計與極大似然估計在思想上有很大的不同,代表著統計學中貝葉斯學派和頻率學派對統計的不同認識。極大似然估計是頻率學派觀點,它的觀點可以這樣理解 待估計引數 theta 是客觀存在的,只是未知而已,已知觀測樣本 d dd,求得 hat 使得在 theta hat 時,產生觀測樣本資料 d dd 的...

最大似然估計與貝葉斯估計的區別

舉個很簡單的實際例子,我們國家每隔一段時間需要進行人口普查,但是因為我國國土面積太大,人口太多,不太可能真正挨個人口進行統計,所以可以統計部分人口樣本,然後根據這部分樣本的引數去描述人口的總體分布情況。那為什麼我們可以這麼幹?因為我們對整體分布的形式是知曉的,比如我們知道全國人民的身高體重服從正態分...