極大似然估計 (二)

2022-03-10 21:38:47 字數 790 閱讀 8737

極大似然估計是一種用已知的樣本資料分布去推測具體的分布情況統計學的方法。

使用極大似然估計方法的兩個條件:1.假定資料服從某種已知的特定資料分布型;2.已經得到了一定的資料集。

以下用估計饅頭重量的分布情況舉例。

背景:對食堂所賣饅頭的重量進行估計。根據現統計知識,可以假定某一日食堂所做的全部饅頭的重量分布是符合正態分佈的。隨機抽取其中的100個稱重。

那麼如何用這 100 饅頭重量的資料集 d 去推測這一天所有饅頭的重量分布呢?

可將這 100 饅頭重量的資料集 d 記作:

。d服從乙個數學期望為μ、標準方差為σ2的正態分佈(也叫高斯分布),記為:  d∼n(μ,σ2)。

其中,期望

μ 決定了分布圖形在座標軸中的位置,標準差 σ 決定了分布圖形的幅度。此時要解決的問題就是如何確定引數 μ 和

σ。為了方便行事,一般把引數寫成乙個引數向量 θ =(μ,σ)。把在引數向量 θ 下的正態分佈下,某一重量的饅頭是標準饅頭的概率密度寫做

。我們將統計到的 100 個饅頭重量的資料集 d 在引數向量 θ 下的正態分佈下可能性用連乘處理

極大似然估計並不是百分百準確,但在資料量足夠的情況下,還是可信的。目標就是關於l(θ)函式最大值時引數向量θ的取值,但在實際情況下我們會取對數

取對數可以把連乘轉化成累加,更加方便於求偏導計算極值。根據分布函式不同,具體求解似然函式的過程也有所差異。

參考文章:

最大似然估計 極大似然估計

目錄最大似然估計 個人部落格 對於最大似然估計我們使用最簡單的拋硬幣問題來進行講解當我們拋一枚硬幣的時候,就可以去猜測拋硬幣的各種情況的可能性,這個可能性就稱為概率一枚質地均勻的硬幣,在不考慮其他情況下是符合二項分布的,即正面和翻面的概率都是0.5,那麼我們拋10次硬幣5次正面在上面的概率為 但是現...

極大似然估計

在機器學習的領域內,極大似然估計是最常見的引數估計的方法之一,在這裡整理一下它的基本原理。極大似然估計從根本上遵循 眼見為實,這樣的哲學思想。也就是說,它嚴格地僅僅利用了已知的實驗結果,來估計概率模型中的引數。極大似然估計的計算過程非常簡單 1.寫出似然函式 2.求出使得似然函式取最大值的引數的值,...

極大似然估計

一 理論基礎 1 引例 某位同學與一位獵人一起外出打獵,乙隻野兔從前方竄過。只聽一聲槍響,野兔應聲到下,如果要你推測,這一發命中的子彈是誰打的?你就會想,只發一槍便打中,由於獵人命中的概率一般大於這位同學命中的概率,看來這一槍是獵人射中的。這個例子所作的推斷就體現了極大似然法的基本思想。2 簡介 極...