從馬爾科夫鏈到吉布斯取樣與PageRank

2021-07-30 13:06:13 字數 1014 閱讀 8272

馬爾科夫鏈表示state的鏈式關係,下乙個state只跟上乙個state有關。

吉布斯取樣通過取樣條件概率分布得到的樣本點,近似估計概率分布p(

z)。pagerank通過節點間的連線,估計節點的重要程度

r 。吉布斯取樣中,state代表不同的樣本點,state的分布就是p(

z)。pagerank中,state代表不同節點的分數,state的分布就是要求的

r 。不論吉布斯取樣還是pagerank,state的分布本質上都是馬爾科夫鏈,而最後都希望state的分布是獨一並且穩定的。

上圖表示了乙個典型的馬爾科夫鏈,每個城市a、b、c代表不同的state。該圖描述了不同state間的轉移變化關係。並且下乙個時間的state只和上乙個時間的state有關。

想象上述的馬爾科夫鏈,state不停的變化,我們可以求出不同state的概率,也就是state的概率分布。

最簡單的辦法是列出不同state的概率公式,然後解線性方程組求解,如下:

可是,單一穩定的state不一定存在,例如下面兩種情況:

馬爾科夫鏈與吉布斯抽樣

gibbs抽樣方法是 markov chain monte carlo mcmc 方法的一種,也是應用最為廣泛的一種。wikipedia稱gibbs抽樣為 in statistics and in statistical physics gibbs samplingor agibbs sampler...

隨機文字生成與馬爾科夫鏈

1.隨機文字生成 如何生成隨機文字?要解決這個問題,首先必須知道什麼是隨機文字。這裡說的 隨機文字 是一種有 意義 的 隨機文字 有 意義 是指所生成的隨機文字在一定程度上是符合自然語言規則的。具體對於英語來說,作者提到的隨機文字有兩個層次,乙個是letter level 字母級別 乙個是word ...

概率分布與馬爾科夫鏈的關係討論

基本概念 伯努利分布 又名兩點分布或者0 1分布,是乙個離散型概率分布。若伯努利試驗成功,則伯努利隨機變數取值為1 若伯努利試驗失敗,則伯努利隨機變數取值為0。記其成功概率為p,則失敗概率為 伯努利過程 是乙個由有限個或無限個的獨立隨機變數 x1,x2,x3 所組成的離散時間隨機過程,其中 x1,x...