參考博文：
1.意義：保留全部的不確定性，將風險降到最小
2.對任何一組不自相矛盾的資訊，這個最大熵模型不僅存在，而且是唯一的。而且它們都有同乙個非常簡單的形式 -- 指數函式。
3.構造最大熵模型（模型的訓練）：只需要確定指數函式的引數
1. 假定第零次迭代的初始模型為等概率的均勻分布。
2. 用第 n 次迭代的模型來估算每種資訊特徵在訓練資料中的分布，如果超過了實際的，就把相應的模型引數變小；否則，將它們便大。
3. 重複步驟 2 直到收斂。
1.定義：統計模型，它用來描述乙個含有隱含未知引數的馬爾可夫過程。
2.意義：從可觀察的引數中確定該過程的隱含引數。然後利用這些引數來作進一步的分析，例如模式識別。
3.概念：隱含狀態（骰子）之間存在轉換概率。儘管可見狀態之間沒有轉換概率，但是隱含狀態和可見狀態之間有乙個概率叫做輸出概率。
3.分類：
馬爾科夫模型與隱馬爾科夫模型
隨機過程 是隨時間而隨機變化的過程。又稱為隨機函式。馬爾科夫模型 vmm 它描述了一類重要的隨機過程。乙個系統有有限個狀態集s 隨時間推移，該系統將同某一狀態轉移到另一狀態。q s1,s2,sn 為一隨機變數序列，隨機變數取值為狀態集s中的乙個狀態，設時間t時狀態為qt。對系統的描述通常是給出當前時...
隱馬爾科夫模型
隱馬爾科夫 hiddenmarkov model 簡稱為hmm，hmm資料相當豐富，推薦參見 hmm學習最佳範例與崔曉源的部落格 一文，本文只對hmm進行簡要介紹，然後說明開源ghmm實現在linux環境的搭建，hmm的開源實現有眾多不同語言的實現。馬爾科夫模型 一階馬爾科夫模型假設為 1 t l時...
隱馬爾科夫模型
一 介紹 introduction 我們通常都習慣尋找乙個事物在一段時間裡的變化模式 規律 這些模式發生在很多領域，比如計算機中的指令序列，句子中的詞語順序和口語單詞的因素修咧等等，事實上任何領域中的一系列事件都有可能產生有用的模式。考慮乙個簡單的例子，有人試圖通過一片海藻推斷天氣 民間傳說告訴我們...