1.使用貝葉斯網路需要首先確定此網路的拓撲結構，並且還要知道各個狀態之間相關的概率，即拓撲結構和這些引數的過程稱為結構訓練和引數訓練。
2.結構訓練：優化的貝葉斯網路結構要保證它產生的序列從頭到尾的可能性最大，即後驗概率最大。 當然，產生乙個序列可以有多條路徑，從理論上講，需要完備的搜尋，即考慮每一條路徑，才能得到全域性最優。但計算複雜度大，因此一般採用貪婪的演算法，也就是在每一步時，沿著箭頭的方向尋找有限步。這樣會陷入區域性最優，乙個防止顯然區域性最優的方法，是採用蒙特卡羅的方法（用許多隨機數在貝葉斯網路中試一試，看看是否顯然區域性最優）。但是計算量大。最近，新的方法是利用資訊理論，計算節點之間兩兩的互資訊，然後只保留互資訊交大的節點的直接連線性，然後再對簡化的網路進行完備的搜尋，找到全域性優化的結構。
3引數訓練：.確定結構後，確定節點之間的弧的權重，這些權重用條件概率來度量。需要一些訓練資料，我們需要優化貝葉斯網路的引數，使得這些資料的概率（後驗概率）p（d|&）達到最大。利用em過程。
4.在計算聯合概率p（x, y）時，訓練資料會提供一些p（x, y）之間的限制條件，而訓練出來的模型要滿足這些限制條件。（此模型應該是滿足給定條件的「最大熵模型」）。
5.指明結構的訓練和引數的訓練通常是交替進行的。先優化引數，在優化結構，然後再次優化引數，知道得到收斂或者誤差足夠小的模型。
數學之美 馬爾科夫鏈的擴充套件 貝葉斯網路 詞分類
前面介紹的馬爾科夫鏈是一種狀態序列，但在實際中，各個事物之間不僅使用鏈序列起來的，而是互相交叉，錯綜複雜。因此通過各個事物之間的聯絡，可以將馬爾科夫鏈推廣至圖論中。使用貝葉斯網路首先就要確定其結構，對簡單網路，專家可以直接給出 對於複雜的網路就需要機器學習了。優化的貝葉斯網路要保證其產生的序列從頭到...
馬爾科夫鏈與吉布斯抽樣
gibbs抽樣方法是 markov chain monte carlo mcmc 方法的一種，也是應用最為廣泛的一種。wikipedia稱gibbs抽樣為 in statistics and in statistical physics gibbs samplingor agibbs sampler...
馬爾科夫鏈中的應用
若每年要統計乙個城市極其郊區人口，像 可以顯示60 住城市，40 住郊區，加起來是1 具有這種特性的向量稱為 概率向量 隨機矩陣是各列都是這樣的向量組成的方陣 馬爾科夫鏈是乙個概率向量序列 和乙個隨機矩陣p 例1 城市與郊區之間移動模型 隨機矩陣 即每年有5 的城市人口流到郊區，3 的郊區人口留到城...