機器學習 概率密度函式和似然函式

2021-08-10 01:31:58 字數 1205 閱讀 8531

離散的概率分布律:p(x=k)=pk。這樣可以一目了然的看出x所可能的取值和對應的概率。

對於連續隨機變數來說,p(x=k)=(x為k的個數/總個數),因為總個數無窮個,概率趨向於0。所以我們引入概率密度函式,一目了然看出落在x的某一值附近的概率大小(兩方面理解:1.連續不說某一值的概率,而是區間。2.概率的大小是積分,而當積分區域無限小,就可以看成一條直線,即y值)

所以在連續隨機變數上引入密度函式可以得到和離散的概率分布一樣的效果!也就是說概率密度函式也就是概率!

似然函式:

有兩個問題:問題一:似然函式不是概率密度函式麼  解釋一下:概率密度函式的本質就是概率,見上面分析  問題二:似然函式的具體是用來形容什麼的?一種解釋是觀測值出現的概率,即樣本點的聯合分布函式

2、常說的概率指的是給定引數後,即將發生的事件的可能性。

似然函式真好相反,我們不再關注事件的發生概率,而是已知發生了某些事件,我們希望知道引數是多少?

所以總結一下:似然函式其實是關於觀測值出現的概率函式,我們求得使似然函式最大的引數,得到希望知道的分布。

似然函式實質就是概率密度函式。只是似然函式中已知x求引數,而概率密度函式是已知引數來求x發生的概率值的

這種相同又不同的關係才產生了以下小故事:在英語語境裡,likelihood 和 probability (也就是概率的英文)的日常使用是可以互換的,都表示對機會 (chance) 的同義替代。但在數學中,probability 這一指代是有嚴格的定義的,即符合柯爾莫果洛夫公理 (kolmogorov axioms) 的一種數學物件(換句話說,不是所有的可以用0到1之間的數所表示的物件都能稱為概率),而 likelihood (function) 這一概念是由fisher提出,他採用這個詞,也是為了凸顯他所要表述的數學物件既和 probability 有千絲萬縷的聯絡,但又不完全一樣的這一感覺。中文把它們乙個翻譯為概率乙個翻譯為似然也是獨具匠心。

深入理解 概率密度分布函式和似然函式

似然函式是某一特定事件發生的概率,其中自變數是分布引數 特定事件 一組樣本取到一組特定值的聯合概率 發生的概率隨 的不同而不同 概率密度分布函式是不同事件發生的概率,自變數是樣本取值,這樣說可能不便於理解,下邊通過二項分布概率公式說明 上邊是二項分布計算概率的一般公式,似然函式中的自變數是公式中的p...

概率密度函式與最大似然估計的區別

以高斯分布的概率密度函式 pdf 為例,f x frac e left frac right 2 期望值 mu 和方差 sigma 確定之後,f x 是 x 的pdf函式。更一般地,f x 可以認為是 x 和 theta mu,sigma 的函式,f x theta frac e left frac...

概率分布函式和概率密度函式

如果隨機變數的值可以都可以逐個列舉出來,則為離散型隨機變數。如果隨機變數x的取值無法逐個列舉則為連續型變數。通俗解釋 能夠用日常使用的量詞度量的取值,如次數,個數,塊數等都是離散型隨機變數。無法用這些量詞度量,且取值可以取到小數點2位,3位甚至無限多位的時候,那麼就是連續型隨機變數 如果微積分是研究...