在概率模型中尋找引數最大似然估計的演算法。
em演算法
是一種迭代演算法，用於含有隱變數的引數模型的最大似然估計。
應用於資料聚類領域。
最大似然估計：
（1） 寫出似然函式；
（2） 對似然函式取對數，並整理；
（3） 求導數 ；
（4） 解似然方程
期望最大
演算法經過兩個步驟交替進行計算，
第一步是計算期望（e），也就是將隱藏變數象能夠觀測到的一樣包含在內，從而計算最大似然的期望值；
另外一步是最大化（m），也就是最大化在 e 步上找到的最大似然的期望值從而計算引數的最大似然估計。
m 步上找到的引數然後用於另外乙個 e 步計算，這個過程不斷交替進行。
暫且先丟擲乙個隨機的初值，然後用對方算出的數值反覆迭代計算。直到計算結果收斂為止。這就是em演算法的思路。
em演算法在高斯混合模型gmm(gaussian mixture model )中有很重要的用途。簡單來講gmm就是一些高斯分布的組合。
整體演算法的步驟如下所示：
1、初始化分布引數。
2、(e-step)計算期望e，利用對隱藏變數的現有估計值，計算其最大似然估計值，以此實現期望化的過程。
3、(m-step)最大化在e-步驟上的最大似然估計值來計算引數的值
4、重複2,3步驟直到收斂。
EM 期望最大化演算法
em演算法編輯 最大期望演算法 expectation maximization algorithm，又譯期望最大化演算法 是一種迭代演算法，用於含有隱變數 hidden variable 的概率引數模型的最大似然估計或極大後驗概率估計。中文名 em演算法 外文名 expectation maxim...
EM 期望最大化演算法
馬爾可夫分支 1.馬爾可夫網 判別式，無項有環圖 1 gibbs 玻爾茲曼機 2 crf條件隨機場 3 馬爾可夫隨機場 2.1 動態貝葉斯 生成式，有向無環圖 1 卡爾曼濾波 2 hmm 隱馬爾可夫 2.2 靜態貝葉斯 先驗估計 data label 後驗估計 data label 似然估計 lab...
資料探勘十大演算法 EM演算法（最大期望演算法）
概念 在統計計算中，最大期望 em 演算法是在概率 probabilistic 模型中尋找引數最大似然估計或者最大後驗估計的演算法，其中概率模型依賴於無法觀測的隱藏變數 latent variable 最大期望經常用在機器學習和計算機視覺的資料聚類 data clustering 領域。可以有一些比...