一、
貝葉斯網路，由乙個有向無環圖(dag)和條件概率表(cpt)組成。
貝葉斯網路通過乙個有向無環圖來表示一組隨機變數跟它們的條件依賴關係。它通過條件概率分布來引數化。每乙個結點都通過p(node|pa(node))來引數化，pa(node)表示網路中的父節點。
乙個簡單的貝葉斯網路，其對應的全概率公式為：
較複雜的貝葉斯網路，其對應的全概率公式為：
p(x1,x2,x3,x4,x5,x6,x7)=p(x1)p(x2)p(x3)p(x4∣x1,x2,x3)p(x5∣x1,x3)p(x6∣x4)p(x7∣x4,x5)
二、三種形式
head-to-head
貝葉斯網路的第一種結構形式如下圖
p(a,b,c) = p(a)*p(b)*p(c|a,b)成立，化簡後可得：
在c未知的條件下，a、b被阻斷(blocked)，是獨立的，稱之為head-to-head條件獨立
tail-to-tail
第二種結構形式如下圖
考慮c未知，跟c已知這兩種情況：
在c未知的時候，有：p(a,b,c)=p(c)*p(a|c)*p(b|c)，此時，沒法得出p(a,b) = p(a)p(b)，即c未知時，a、b不獨立。
在c已知的時候，有：p(a,b|c)=p(a,b,c)/p(c)，然後將p(a,b,c)=p(c)*p(a|c)*p(b|c)帶入式子中，得到：p(a,b|c)=p(a,b,c)/p(c) = p(c)*p(a|c)*p(b|c) / p(c) = p(a|c)*p(b|c)，即c已知時，a、b獨立。
所以，在c給定的條件下，a，b被阻斷(blocked)，是獨立的，稱之為tail-to-tail條件獨立
head-to-tail
貝葉斯網路的第三種結構形式如下圖
還是分c未知跟c已知這兩種情況：
c未知時，有：p(a,b,c)=p(a)*p(c|a)*p(b|c)，但無法推出p(a,b) = p(a)p(b)，即c未知時，a、b不獨立。
c已知時，有：p(a,b|c)=p(a,b,c)/p(c)，且根據p(a,c) = p(a)*p(c|a) = p(c)*p(a|c)，可化簡得到：
在c給定的條件下，a，b被阻斷(blocked)，是獨立的，稱之為head-to-tail條件獨立。
head-to-tail是乙個鏈式網路
xi+1的分布狀態只和xi有關，和其他變數條件獨立。通俗點說，當前狀態只跟上一狀態有關，跟上上或上上之前的狀態無關。這種順次演變的隨機過程，就叫做馬爾科夫鏈（markov chain）
貝葉斯網路
1.貝葉斯網路的定義 貝葉斯網路 bayesian network 又稱信念網路 belief network 或有向無環圖模型 directed acyclic graphical model 是一種概率圖模型，於1985年由judea pearl首先提出。它是一種模擬人類推理過程中因果關係的不確...
建立貝葉斯網路
博文內容源自 定義貝葉斯網路，必須知道圖形結構和相應引數。考慮下圖的圖形結構 指定上圖的有向無環圖，我們建立乙個屬性矩陣。clc clear 建立貝葉斯網路結構 四個節點號如下 cloudy 1,sprinkler 2,rain 3,wetgrass 4.節點號必須按照拓撲順序編號，即父節點在前子節...
PRML 貝葉斯網路
把貝葉斯網路當做圖來描述的 巨集觀一下，google顯示此圖 用圖表示概率分布，和馬爾科夫鏈甚是有淵源，聯想到有人用neo4j圖資料庫的er 決n gram問題，肯定都是乙個套路給出p a,b c 的聯合分布形式 p a,b,c p c a b p a,b 繼續 p a b,c p c a,b p ...