辨別式和生成式

2021-09-23 23:37:48 字數 846 閱讀 1458

引入

判別式----利用訓練集直接對條件概率p(y|x;θ)建模。logistic回歸就利用hθ(x) = g(θtx)對p(y|x;θ)建模(其中g(z)是sigmoid函式)。

假設現在有乙個分類問題,要根據一些動物的特徵來區分大象(y = 1)和狗(y = 0)。給定這樣的一種資料集,回歸模型比如logistic回歸會試圖找到一條直線也就是決策邊界,來區分大象與狗這兩類,然後對於新來的樣本,回歸模型會根據這個新樣本的特徵計算這個樣本會落在決策邊界的哪一邊,從而得到相應的分類結果。

生成式模型----根據訓練集中的大象樣本,我們可以建立大象模型,根據訓練集中的狗樣本,我們可以建立狗模型。然後,對於新來的動物樣本,我們可以讓它與大象模型匹配看概率有多少,與狗模型匹配看概率有多少,哪乙個概率大就是那個分類。

概念

判別式模型(discriminative model)是直接對條件概率p(y|x;θ)建模。常見的判別式模型有 線性回歸模型、線性判別分析、支援向量機svm、神經網路等。

生成式模型(generative model)則會對x和y的聯合分布p(x,y)建模,然後通過貝葉斯公式來求得p(yi|x),然後選取使得p(yi|x)最大的yi,即:

常見的生成式模型有 隱馬爾可夫模型hmm、樸素貝葉斯模型、高斯混合模型gmm、lda等。

生成式模型的優點

1.在概率分布的假設下,需要較少的訓練資料

2.在概率分布的假設下,抗雜訊性更強

3.可以從不同**估計先驗和類依賴概率

列表生成式和生成器生成式

列表生成式 也就是用一對中括號括起來將生成列表的語句放入括號內來生成乙個列表。例如我想建立乙個100個雞蛋的列表 在其中還可以加判斷條件 下面這個例題可以將列表生成式和正常的for迴圈語句建立列表進行鮮明的對比 for迴圈寫法 經過上面的對比我們發現,其優點就是語法簡潔。生成器生成式 生成器生成式的...

Python列表推導式和生成式

推導式 作用 按一定的邏輯順序,生成列表,簡單且快捷 語法一 表示式 for 變數 in 舊列表 例如生成乙個 1,2,3,4,5,6,7 列表 x for x in range 1 8 或者生成乙個 1,4,9,16,25,36,49,64,81 的列表 x x for x in range 1 ...

詳解python列表生成式和列表生成式器區別

一 列表生成式 列表生成式是快速生成乙個列表的一些公式 numbers for x in range 0,101 numbers.append x print numbers 要放入列表的資料 簡單的表示式1 表示式2 x for x in range 0,101 for迴圈遍歷出來的值,放入列表中...