EM和HMM學習筆記

2021-09-03 01:29:54 字數 720 閱讀 6333

1. em(expectition-maximum):期望最大化演算法,由於已知資料中有未觀察到的隱含資料,所以需要猜想隱含資料,進而求模型引數。e為期望步,計算模型的期望值問題;m步為求最大化問題,以此類推,不斷迭代。

2. hmm(hidden markov model):隱馬爾夫模型,hmm解決的問題有以下兩個特徵:1)我們的問題是基於序列的,比如時間序列,或者狀態序列。2)我們的問題中有兩類資料,一類序列資料是可以觀測到的,即觀測序列;而另一類資料是不能觀察到的,即隱藏狀態序列,簡稱狀態序列。

三個問題需要解決:

1) 評估觀察序列概率。即給定模型λ=(a,b,π)λ=(a,b,π)和觀測序列o=o=,計算在模型λλ下觀測序列oo出現的概率p(o|λ)p(o|λ)。這個問題的求解需要用到前向後向演算法,我們在這個系列的第二篇會詳細講解。這個問題是hmm模型三個問題中最簡單的。

2)模型引數學習問題。即給定觀測序列o=o=,估計模型λ=(a,b,π)λ=(a,b,π)的引數,使該模型下觀測序列的條件概率p(o|λ)p(o|λ)最大。這個問題的求解需要用到基於em演算法的鮑姆-韋爾奇演算法, 我們在這個系列的第三篇會詳細講解。這個問題是hmm模型三個問題中最複雜的。

3)**問題,也稱為解碼問題。即給定模型λ=(a,b,π)λ=(a,b,π)和觀測序列o=o=,求給定觀測序列條件下,最可能出現的對應的狀態序列,這個問題的求解需要用到基於動態規劃的維特比演算法,我們在這個系列的第四篇會詳細講解。這個問題是hmm模型三個問題中複雜度居中的演算法。

學習筆記 HMM統計模型

畢設快要選題目了,為此開始看一些研究生導師研究方向的相關文獻,他的 太高深,於是轉而從一些基礎類的科普性文章看起。在 計算聽覺場景介紹 中遇到了hmm統計模型這個概念,於是上網搜了部落格學習了一下。hmm 隱馬爾科夫模型 hidden markov model 是統計模型,它用來描述乙個含有隱含未知...

HMM演算法學習筆記

本文將講解hmm的各種演算法運用 背景 有 個色子abc,編號是1到m 此例中取3 每個色子可擲1到6,但分布律各不相等,現在我擲n次,每次隨機取乙個色子隨機擲得乙個點數並記為x i 但是我不知道每次擲的色子是哪個色子。概念引入 隱藏狀態數 m,現在是3種色子,所以隱藏狀態數是3種 輸出狀態數 s,...

EM演算法學習 番外篇 HMM的引數估計

一 hmm的定義 隱馬爾科夫模型實際上是乙個雙重的隨機過程,其中一重隨機過程不能直接被觀測到,通過狀態轉移概率矩陣描述,另一重隨機過程輸出可以觀測的觀測符號,這個是由輸出的概率來進行定義的.隱馬爾科夫的模型的引數 入 可以表示為乙個五元組 1 s是一組狀態的集合,s 而隨機序列x在t時刻所處的狀態為...