gibbs sampling是高維概率分布的mcmc取樣方法。二維場景下，狀態(x, y)轉移到(x』, y』)，可以分為三種場景
（1）平行於y軸轉移，如上圖中從狀態a轉移到狀態b。
（2）平行於x軸轉移，如上圖中從狀態a轉移到狀態c。
（3）其他情況轉移，如上圖從狀態a轉移到狀態d。
對於上述三種情況，我們構造細緻平穩條件
（1）a -> b
b –> a
顯然有即
我們令轉移矩陣中x = x1軸上的狀態轉移概率為p(y|x1)，則場景一天然滿足細緻平穩條件。
（2）同理，我們令轉移矩陣中y = y1軸上的狀態轉移概率為p(x|y1)，則場景二天然滿足細緻平穩條件。即
（3）對於場景三，我們不允許其轉移。即
p(a) * 0 = p(d) * 0
實際上，從狀態a轉移到狀態d可以通過一次場景一轉移和一次場景二轉移得到。所以即使規定a到d的轉移概率為0，也滿足a到d可以經過有限次轉移達到。
總結一下，在二維概率分布的場景下，轉移矩陣按照如下方式構造，馬氏鏈即可達到指定的二維聯合概率分布平穩狀態
二維gibbs sampling演算法
n維場景的考慮，與二維概率分布考慮一致：只允許狀態沿著某乙個維度平行轉移，其他情況下狀態轉移概率為0。
（1）平行於y維轉移
（2）其他情況轉移
p(x1) * 0 = p(x2) * 0
n維gibbs sampling演算法
參考：《lda數學八卦》
吉布斯取樣（Gibbs Sampling
簡單理解吉布斯取樣的過程 幾個可以學習gibbs sampling的方法 1，讀bishop的pattern recognition and machine learning，講的很清楚，但是我記得好像沒有例子。2，讀artificial intelligence，2 3版，都有。但是我沒讀過。3，...
Gibbs Sampling不完全攻略
什麼是最大似然估計 maximum likelyhood estimator mle代表觀察值最有可能出現次數的情況。先自定義乙個拋擲硬幣的場景,我們想要知道出現head的概率是多少？如拋擲一枚硬幣10次，得到的結果x hhhhtttttt,出現head的概率為0.4.則這個0.4就是mle。在有些...
深入篇 decltype深入分析
int fun int main void double tempa 3.0 const double ctempa 5.0 const double ctempb 6.0 const double const cptrtempa ctempa 1.dcltempa推斷為const double 保...