機器學習演算法筆記 4 條件隨機場

2021-10-05 14:58:11 字數 822 閱讀 2793

1.馬爾可夫鏈:通俗理解馬爾可夫鏈

假設乙個隨機過程中,t

nt_n

tn​ 時刻的狀態x

nx_n

xn​的條件發布,只與其前一狀態xn−

1x_

xn−1​p(x

n∣x1

,x2,

...,

xn−1

)=p(

xn∣x

n−1)

p(x_n|x_1,x_2,...,x_) = p(x_n|x_)

p(xn​∣

x1​,

x2​,

...,

xn−1

​)=p

(xn​

∣xn−

1​)通俗地說就是,未來的分布只取決於當前狀態,而與過去無關。

2.隱馬爾科夫演算法

一種對未知引數的馬爾科夫鏈進行建模的生成模型

3.條件隨機場

如何輕鬆愉快地理解條件隨機場(crf)?

條件隨機場是邏輯回歸的序列化版本。邏輯回歸是用於分類的對數線性模型,條件隨機場是用於序列化標註的對數線性模型。

條件隨機場包含概率計算問題、學習問題和**問題三個問題:

概率計算問題:已知模型的所有引數,計算觀測序列 ? 出現的概率,常用方法:前向和後 向演算法;

學習問題:已知觀測序列 ? ,求解使得該觀測序列概率最大的模型引數,包括隱狀態序列、隱狀態間的轉移概率分布和從隱狀態到觀測狀態的概率分布,常用方法:baum-wehch 演算法;

**問題:一直模型所有引數和觀測序列 ? ,計算最可能的隱狀態序列 ? ,常用演算法:維特比演算法。

ML Day4 條件隨機場

1.馬爾科夫過程 假設乙個隨機過程中,時刻的狀態 的條件發布,只與其前一狀態 1相關 2.隱馬爾科夫演算法 隱馬爾科夫演算法是對含有未知引數 隱狀態 的馬爾可夫鏈進行建模的生成模型,在隱馬爾科夫模型中,包含隱狀態 和 觀察狀態,隱狀態 對於觀察者而言是不可見的,而觀察狀態 對於觀察者而言是可見的。隱...

機器學習演算法 Task04條件隨機場(CRF)

最近看了一些有關於crf的 基本概念懂,但是到求解的部分有些疑惑。crf問題容易構成np hard問題,求解過程還需要再學習。下面稍微介紹一些crf的學習吧,這裡前面crf內容主要參考了下面博文,講的非常好 條件隨機場 conditional random fields 是一種判別式圖模型,因為其強...

Task04條件隨機場

條件隨機場 條件隨機場是一種判別式無向圖模型。條件隨機場試圖對多個變數在給定觀測值後的條件概率進行建模。給定x x1,x 2,xn y y 1,y2 y n x x 1,x 2,dots,x n y y 1,y 2,dots,y n x x1 x2 x n y y 1 y 2 yn 均為線性鏈表示的...