6 邏輯回歸

1.什麼是邏輯回歸，與線性回歸對比，有什麼不同？

邏輯回歸：邏輯回歸又稱logistic回歸分析，它將資料擬合到乙個logit函式或者是logistic函式中，從而能夠完成對事件發生的概率進行**，它使用乙個sigmoid函式來歸一化y值，使y的取值在區間(0,1)內，是解決二分類問題的利器。

公式：

**實現sigmoid函式

邏輯回歸與線性回歸的區別與聯絡：

區別：邏輯回歸是廣義的線性回歸，邏輯回歸雖然都帶有回歸二字，但邏輯回歸是一種分類的學習演算法，輸入的東西雖然和線性回歸一樣，但是出來的結果卻是乙個二分類的問題，線性回歸卻是**連續型變數的，，可以用來聚類，可是不能解決分類問題。

（1）線性回歸的響應變數服從正態分佈，邏輯回歸的服從伯努利分布

（2）線性回歸的損失函式是均方差，邏輯回歸的是似然函式（交叉熵）

（3）線性回歸要求自變數和因變數服從線性關係，邏輯回歸沒要求

（4）線性回歸分析的是因變數自身與自變數之間的關係，邏輯回歸研究的是因變數取值的概率和自變數的概率

（5）線性回歸是回歸問題，邏輯回歸是乙個分類問題

聯絡：（1）兩個都是線性模型，線性回歸是普通線性模型，回歸模型是廣義的線性模型

（2）表達形式上，邏輯回歸是線性回歸套上了乙個sigmoid函式

2.什麼是過擬合和欠擬合？

過擬合：是指訓練模型時過於嚴格，學習能力太強，導致訓練出的模型過於複雜，學習到了很多無關緊要的特徵，最後訓練資料上得到較好擬合但測試資料上就不能很好的擬合，出現這種現象的主要原因是訓練資料中存在噪音或者訓練資料太少。

欠擬合:是指訓練模型時過於簡單，學習能力太弱，沒有很好地捕捉到足夠多的資料特徵，模型泛化能力太差，導致在訓練資料上不能獲得更好的擬合，在測試資料上也不能很好的擬合。

3.邏輯回歸的應用場景有哪些？

邏輯回歸演算法主要可使用者金融領域，可用性強，可以通過綜合貸款主的各項資料，**該人是否具有償還能力，從而決定是否放款。

也可運用於農業，通過農作物的各項資料，**長期寫去農作物是否會生病。