ML之邏輯回歸

2021-08-22 18:12:25 字數 1172 閱讀 4475

問:邏輯回歸是解決回歸的問題嗎?

答:不是,邏輯回歸解決的是分類問題。

面對乙個回歸或者分類問題,建立代價函式,然後通過優化方法迭代求解出最優的模型引數,然後測試驗證我們這個求解的模型的好壞。

logistic回歸雖然名字裡帶「回歸」,但是它實際上是一種分類方法,主要用於兩分類問題(即輸出只有兩種,分別代表兩個類別)

是什麼手段讓邏輯回歸只能輸出兩種值呢?答:sigmoid函式。

logistic函式(或稱為sigmoid函式),函式形式為

其中e代表著常數 2.71828......

通過下面的圖形可以看到,把任意乙個z帶入到sigmoid函式中,都會得到乙個(0,1)之間的值。那麼我們能否把(0,1)之間的值想成是 0-100%的乙個概率值呢?我們把概率小於50%的分為不易發生的一類。把剩餘的分為另外一類。這樣就產生了兩個類別。達到分類的目的。這個就是邏輯回歸作為分類的理論依據。

對多元線性回歸方程求sigmoid函式hθ(x)=g(θ0+θ1x1+...+θnxn),找到一組θ,假設得到−3+x1+x2=0的直線,把樣本分成兩類。把(1,1)代入g函式,概率值<0.5,就判定為負樣本。這條直線就是判定邊界,如下圖: 

這條線就是線性回歸函式,換句話說,引數z就是乙個線性回歸函式。

因此邏輯回歸函式的表示式如下:

邏輯回歸方法主要是用最大似然估計來學習的,所以單個樣本的後驗概率為:

整個樣本的後驗概率就是:

ML學習筆記(2)邏輯回歸

邏輯回歸模型一般用來解決二分類問題,就是輸出y只有兩個離散值,例如判斷中是否有貓,0表示nocat,1表示cat。通過這個例子簡要介紹神經網路模型中一些標準化的 有效率的處理方法和notations。包含三個rgb通道,設描述一張尺寸 64,64,3 對這樣一張要將x 64,64,3 轉化為一維向量...

邏輯斯蒂回歸 機器學習ML

參考 1.統計學習方法 李航 2.邏輯斯蒂回歸是乙個非常經典的二項分類模型,也可以擴充套件為多項分類模型。其在應用於分類時的過程一般如下,對於給定的資料集,首先根據訓練樣本點學習到引數w,b 再對 點分別計算兩類的條件概率,將 點判為概率值較大的一類。1 線性模型 邏輯斯蒂回歸屬於對數線性模型,那什...

ML 線性回歸

說句廢話,相信大多數人和我一樣,最開始學習機器學習遇到的第乙個模型便是線性回歸,而且是一元線性回歸,但就這個模型,其實包含了很多的知識點,矩陣計算,最小二乘 梯度下降等知識點。我認為非常的有趣。這裡只是乙個簡單的介紹。1問題的引入 假設有乙個房屋銷售的資料如下 面積銷售 123250 150320 ...