回歸模型梳理

2021-10-02 18:22:37 字數 303 閱讀 1554

一. 線性回歸

二. 邏輯回歸

邏輯回歸產生的原因:1、線性回歸也可以用於分類,但容易被極端的資料影響,資料分布不規則時,對函式值影響較大,函式值分類指標容易產生較大誤差。2、線性回歸的值是從負無窮到正無窮,而分類問題的值是0-1的。

三. softmax回歸

選擇e為底的原因:函式值不為負,可以保證概率介於0-1;函式值越大,通過e指數變化,函式值更大,差距越來越明顯,放大正確的類別與錯誤類別概率值的差距。

深度學習的本質是,對輸入資料深度提取特徵,後接可進行梯度下降的分類器,主要是接邏輯回歸或softmax回歸。

線性回歸梳理

機器學習的一些概念 有監督 訓練資料的結果已被告知 無監督 不告訴結果,讓演算法自行判斷 過擬合 高方差,低偏差 解決辦法 使用正則化項 欠擬合 高偏差,低方差。這時增加樣本數量是沒用的。解決辦法 增加特徵 可以通過學習曲線判斷學習演算法是處於欠擬合還是過擬合。交叉驗證 機器學習中確定超引數的通用的...

線性回歸演算法梳理

機器學習的一些概念 有監督 有目標值y 無監督 無目標值y 泛化能力 在 集上的 能力 過擬合欠擬合 方差和偏差以及各自解決辦法 測試集 能力不好叫欠擬合,在測試集上ok,訓練集ng 方差能解決過你和問題,偏差能解決欠擬合問題 交叉驗證 將樣本分為n分,按照一定的劃分方式劃分訓練集和測試集,互相交叉...

DATAWHALE線性回歸梳理

1 有監督和無監督學習是機器學習的常用辦法。有監督就是通過已有的一些資料輸入和輸出的關係,去得到乙個模型 該模型相當於乙個函式,將所有的輸入對映為相應的輸出,從而達到分類的目的 無監督 直接對資料進行建模,得到相似的一類,如聚類。那哪種情況下採用監督學習或無監督學習呢?我想最簡單的一種方法就是根據定...