7 邏輯回歸實踐

2022-08-22 13:45:10 字數 1349 閱讀 3720

1.邏輯回歸是怎麼防止過擬合的?為什麼正則化可以防止過擬合?(大家用自己的話介紹下)

1)減少數量特徵或正則化

2)正則化不需減少數量特徵,只需要通過減小特徵變數的數量級使他們接近於0.這樣子就可以形成乙個類似二元的多元函式。

2.用logiftic回歸來進行實踐操作,資料不限。

import

pandas as pd

import

numpy as np

from sklearn.linear_model import

logisticregression

from sklearn.model_selection import

train_test_split

from sklearn.metrics import

classification_report

from sklearn.preprocessing import

standardscaler

deflogistic():

data = pd.read_csv("

./breast-cancer-wisconsin.csv")

data = data.replace(to_replace='

?', value=np.nan)

data =data.dropna()

x = data.iloc[:, 1:10]

y = data.iloc[:, 10]

x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.3)

std =standardscaler()

x_train =std.fit_transform(x_train)

x_test =std.fit_transform(x_test)

lg =logisticregression()

lg.fit(x_train, y_train)

print

(lg.coef_)

print("

準確率:

", lg.score(x_test, y_test))

print("

召回率:

7 邏輯回歸實踐

1.邏輯回歸是怎麼防止過擬合的?為什麼正則化可以防止過擬合?1 首先什麼是過擬合?過擬合是指訓練模型時過於嚴格,學習能力太強,導致訓練出的模型過於複雜,學習到了很多無關緊要的特徵,過度擬合的問題通常發生在變數 特徵 過多的時候。這種情況下訓練出的方程總是能很好的擬合訓練資料,此時的代價函式可能非常接...

7 邏輯回歸實踐

1.邏輯回歸是怎麼防止過擬合的?為什麼正則化可以防止過擬合?大家用自己的話介紹下 是通過正則化來防止的。過擬合的時候,擬合函式的係數往往非常大,而正則化是通過約束引數的範數使其不要太大,所以可以在一定程度上減少過擬合情況。如下圖所示,過擬合,就是擬合函式需要顧忌每乙個點,最終形成的擬合函式波動很大。...

7 邏輯回歸實踐

1.邏輯回歸是怎麼防止過擬合的?為什麼正則化可以防止過擬合?大家用自己的話介紹下 邏輯回歸通過正則化來防止過擬合 正則化可以防止過擬合是因為過擬合的時候,擬合函式的係數往往非常大,而正則化是 通過約束引數的範數使其不要太大,所以可以在一定程度上減少過擬合情況,以l2正則化為例,正則項會使權重趨於0,...