生成模型和判別模型

2021-08-17 12:39:00 字數 543 閱讀 7271

監督學習的任務就是學習乙個模型,應用這一模型,對給定的輸入**相應的輸出,這一模型的一般形式為決策函式

y=f(x)

或者條件概率分布

p(y|x)

監督學習方法有可以分為生成方法和判別方法,所學到的模型分別稱為生成模型和判別模型

生成方法由資料學習聯合分布概率p(x,y),然後求出條件概率分布p(y|x)作為**的模型:

p(y|x) = p(x,y)/p(x)

典型的生成模型:樸素貝葉斯方法、隱馬爾可夫模型

特點:生成方法可以還原出聯合概率分布,而判別模型不行;生成方法的學習收斂速度快,即當樣本容量增加時,學到的模型可以更快地收斂於真實模型;當存在隱變數的時候,仍可以用生成學習的方法,此時判別方法不能使用

判別模型是由資料直接學習決策函式f(x)或者條件概率分布p(y|x)作為**的模型。典型的判別模型包括:k近鄰法,感知機、決策樹、lr、最大熵模型、支援向量機、提公升方法和條件隨機場

特點:直接面對**,往往學習的準確率更高;由於直接學習,可以直接對資料進行各種程度上的抽象、定義特徵並使用特徵,因此可以簡化學習問題

生成模型和判別模型

監督學習的結果是得到乙個分類或 模型,應用該模型可以對給定輸入 x 得到相應的輸出 y,即 y f x 或者p y x 根據不 同類對應 的後驗概 率判斷所 屬類別 根據模型是否表示了x 到 y的生成過程將模型分為兩種,生成方式 判別方式。生成模型p y x p x y p x 如樸素貝葉斯法 隱馬...

生成模型和判別模型

我的理解 生成模型相當統計全國男女比例,判別模型相當於抽樣分析乙個省的男女比例作為全國男女比例 假設你現在有乙個分類問題,x是特徵,y是類標記。用生成模型學習乙個聯合概率分布p x,y 而用判別模型學習乙個條件概率分布p y x 用乙個簡單的例子來說明這個這個問題。假設x就是兩個 1或2 y有兩類 ...

生成模型和判別模型

監督學習的任務是學習乙個模型,應用這一模型,對於給定的輸入 相應的輸出。這個模型的一般形式為決策函式 y f x y f x y f x 或者為條件概率分布 p y x p y x p y x 監督學習方法又可以分成生成方法和判別方法 學習到的相應模型為生成模型和判別模型。生成方法由資料學習聯合概率...