機器學習之條件隨機場(CRF)

2021-08-10 14:16:48 字數 451 閱讀 3098

crf即條件隨機場(conditional random fields),是在給定一組輸入隨機變數條件下另外一組輸出隨機變數的條件概率分布模型,它是一種判別式的概率無向圖模型,既然是判別式,那就是對條件概率分布建模。

crf較多用在自然語言處理和影象處理領域,在nlp中,它是用於標註和劃分序列資料的概率化模型,根據crf的定義,相對序列就是給定觀測序列x和輸出序列y,然後通過定義條件概率p(y|x)來描述模型。

前面說到crf的輸出隨機變數是乙個概率無向圖模型,那麼現在看看該模型。

概率無向圖模型是由無向圖表示的聯合概率分布,假設聯合概率分布p(y)通過無向圖來表示,則在圖中節點表示隨機變數,邊表示隨機變數之間的依賴關係,聯合概率分布p(y)滿足馬爾科夫性則稱其為概率無向圖模型,或者是馬爾科夫隨機場。

如下圖,圖是乙個由節點和邊組成的結構體,無向是指邊沒有方向,整個圖記作g=(v,e),其中v為節點的集合,e為邊的集合。

條件隨機場CRF

條件隨機場 crf 是給定一組輸入隨機變數x的條件下另一組輸出隨機變數y的條件概率分布模型,其特點是假設輸出隨機變數構成馬爾科夫隨機場。實際上是定義在時序資料上的對數線性模型。條件隨機場屬於判別模型。概率圖模型是由無向圖表示的聯合概率分布,概率無向圖模型的最大特點是易於因子分解。團 無向圖g中任何兩...

CRF條件隨機場

crf即條件隨機場 conditional random fields 是在給定一組輸入隨機變數條件下另外一組輸出隨機變數的條件概率分布模型,它是一種判別式 理解一些和生成模型的區別 的概率無向圖模型,既然是判別式,那就是對條件概率分布建模。一 概率無向圖模型 概率無向圖模型是由無向圖表示的聯合概率...

條件隨機場CRF原理

對於crf一直很嚮往,專門花了一些時間去查詢資料,一步一步弄明白了crf的基本原理,下面把crf部分核心寫了出來,時間倉促,很多細節沒有寫出來,後續會慢慢完善。而且crf需要用到很多的基礎知識,比如無向圖 有向圖,判別式 生成式,最大團等等概念,所以想要徹底的理解crf,必須弄明白這些基礎知識。當然...