7 邏輯回歸實踐

2022-07-09 18:54:13 字數 1408 閱讀 6334

1.邏輯回歸是怎麼防止過擬合的?為什麼正則化可以防止過擬合?(大家用自己的話介紹下)

邏輯回歸通過正則化來防止過擬合;正則化可以防止過擬合是因為過擬合的時候,擬合函式的係數往往非常大,而正則化是

通過約束引數的範數使其不要太大,所以可以在一定程度上減少過擬合情況,以l2正則化為例,正則項會使權重趨於0,就

意味著大量權重就和0沒什麼差別了,此時網路就變得很簡單,擬合能力變弱,從高方差往高偏差的方向移動。

2.用logiftic回歸來進行實踐操作,資料不限。

# (1

)載入load_breast_cancer資料集,並劃分訓練集與測試集。

from

sklearn.datasets import load_breast_cancer

from

sklearn.model_selection import train_test_split

cancer =load_breast_cancer()

x =cancer.data

y =cancer.target

x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.2, random_state=5

)# (

2)訓練模型,並計算訓練資料集的評分資料和測試資料集的評分資料,以及檢視測試樣本中**正確的個數。

from

sklearn.linear_model import logisticregression

from

sklearn.metrics import classification_report

model =logisticregression()

model.fit(x_train, y_train)

y_pre =model.predict(x_test)

print(

'訓練資料集的評分:

', model.score(x_train, y_train))

print(

'測試資料集的評分:

', model.score(x_test, y_test))

print(

'**個數:

', x_test.shape[0

])print(

'**正確個數:

', x_test.shape[0] *model.score(x_test, y_test))

print(

"召回率

7 邏輯回歸實踐

1.邏輯回歸是怎麼防止過擬合的?為什麼正則化可以防止過擬合?1 首先什麼是過擬合?過擬合是指訓練模型時過於嚴格,學習能力太強,導致訓練出的模型過於複雜,學習到了很多無關緊要的特徵,過度擬合的問題通常發生在變數 特徵 過多的時候。這種情況下訓練出的方程總是能很好的擬合訓練資料,此時的代價函式可能非常接...

7 邏輯回歸實踐

1.邏輯回歸是怎麼防止過擬合的?為什麼正則化可以防止過擬合?大家用自己的話介紹下 是通過正則化來防止的。過擬合的時候,擬合函式的係數往往非常大,而正則化是通過約束引數的範數使其不要太大,所以可以在一定程度上減少過擬合情況。如下圖所示,過擬合,就是擬合函式需要顧忌每乙個點,最終形成的擬合函式波動很大。...

7 邏輯回歸實踐

1.邏輯回歸是怎麼防止過擬合的?為什麼正則化可以防止過擬合?大家用自己的話介紹下 1 通過正則化來防止過擬合 2 如圖,過擬合後,得到的方程很擬合訓練的資料,但是用測試集去測試時,則可能認為其不是那一類的,以至於無法 新樣本的標籤。保留所有的特徵變數,但是減少特徵變數的數量級。假設我們使 6,7.n...