極大似然估計

2022-04-02 02:45:11 字數 600 閱讀 1710

給定輸出x時,關於引數θ的似然函式l(θ|x)(在數值上)等於給定引數θ後變數x的概率:l(θ|x)=p(x=x|θ)

似然,就是可能的意思。例如體重為20kg的哈士奇的可能性是多少,就稱為體重為20kg的哈士奇的似然為多少

現在有500只哈士奇,體重為:d=,根據實際情況我們可以假設它們的體重呈正態分佈:d~n(μ,σ^2),因此我們需要求μ,σ

①設θ=(μ,σ)

②通過資料集和貝葉斯公式(上篇介紹有)可以知道p(x=x|θ)

③l(θ|x)=p(x=x|θ)

④l'(θ)=0,得到θ的估計值:當似然函式取最大值時,此時的θ值可能性最大

似然函式取得最大值表示相應的引數能夠使得統計模型最為合理,這個使可能性最大的值即被稱為θ的最大似然估計。

當我們使用機器學習解決具體現實問題時,我們是無法確切知道具體的資料分布情況的。例如我們現在想知道橘貓的體重分布,顯然我們無法乙隻乙隻地去測。這種情況在機器學習中非常普遍,那我們可不可以用部分已知資料去**整體的分布呢?最大似然估計就是解決這一問題的方法。但是,這並不是絕對準確的,只能說實際情況最能接近這種**的分布。

1.我們假定資料從某種已知的特定資料分布型

2.我們已經得到了一定資料集

最大似然估計 極大似然估計

目錄最大似然估計 個人部落格 對於最大似然估計我們使用最簡單的拋硬幣問題來進行講解當我們拋一枚硬幣的時候,就可以去猜測拋硬幣的各種情況的可能性,這個可能性就稱為概率一枚質地均勻的硬幣,在不考慮其他情況下是符合二項分布的,即正面和翻面的概率都是0.5,那麼我們拋10次硬幣5次正面在上面的概率為 但是現...

極大似然估計

在機器學習的領域內,極大似然估計是最常見的引數估計的方法之一,在這裡整理一下它的基本原理。極大似然估計從根本上遵循 眼見為實,這樣的哲學思想。也就是說,它嚴格地僅僅利用了已知的實驗結果,來估計概率模型中的引數。極大似然估計的計算過程非常簡單 1.寫出似然函式 2.求出使得似然函式取最大值的引數的值,...

極大似然估計

一 理論基礎 1 引例 某位同學與一位獵人一起外出打獵,乙隻野兔從前方竄過。只聽一聲槍響,野兔應聲到下,如果要你推測,這一發命中的子彈是誰打的?你就會想,只發一槍便打中,由於獵人命中的概率一般大於這位同學命中的概率,看來這一槍是獵人射中的。這個例子所作的推斷就體現了極大似然法的基本思想。2 簡介 極...