線性回歸演算法梳理

2021-09-11 12:43:37 字數 404 閱讀 1446

機器學習的一些概念

有監督:有目標值y

無監督:無目標值y

泛化能力:在**集上的**能力

過擬合欠擬合(方差和偏差以及各自解決辦法):測試集**能力不好叫欠擬合,在測試集上ok,訓練集ng;方差能解決過你和問題,偏差能解決欠擬合問題

交叉驗證:將樣本分為n分,按照一定的劃分方式劃分訓練集和測試集,互相交叉驗證

線性回歸損失函式、代價函式、目標函式

yiˆ=θ⋅xi

c=∑(yi−yˆi)2

優化方法(梯度下降法、牛頓法、擬牛頓法等)

thta新=thta舊+alpha導數

dex(y新-y舊)/dex(x新-x舊)約等於倒數

5、線性回歸的評估指標

mse r2

6、sklearn引數詳解

線性回歸演算法梳理

有監督 資料做過標記 無監督 對原始資料進行處理,未做標記 泛化能力 由訓練資料建立的模型對同類問題的解決能力 過擬合 模型過於複雜導致解決問題能力差 欠擬合 模型過於簡單導致擬合資料的能力差 方差和偏差以及各自解決辦法 交叉驗證 當資料比較少時,將資料分成n份,取n 1份做訓練集,1份做驗證集,改...

線性回歸演算法梳理

監督學習 資料集中的每個樣本有相應的標籤,根據這些樣本做出 無監督學習 資料集中沒有標籤。無監督學習的任務是從給定的資料集中,找出可能具有的結構。泛化能力 指乙個機器學習演算法對於沒有見過的樣本的識別能力。過擬合欠擬合 方差和偏差以及各自解決辦法 欠擬合 模型沒有很好地捕捉到資料特徵,不能夠很好地擬...

線性回歸演算法梳理

線性回歸演算法梳理 2.線性回歸的原理 3.線性回歸損失函式 代價函式 目標函式的概念 4.一元線性回歸的引數求解公式推導 5.多元線性回歸的引數求解公式推導 6.線性回歸的評估指標 7.參考資料 文中肯定有許多描述不恰當 理解不到位的地方,希望大神們拍正。另外文中一些段落是在引用了一些其它博文的話...