180125 機器學習 初級演算法調研

2021-08-15 01:22:41 字數 807 閱讀 6125

目標:**建模

方法:機器學習

實際:泛函分析

本質:找到乙個目標函式f,使其成為輸入變數x到輸出變數y之間的最佳對映:y=f(x)

1.線性回歸[常用spss]

一元:y=ax+b+c,誤差c服從均值為0的正態分佈

n元:y=a1x1+a2x2+a3x3+...anxn+b+c,誤差c服從均值為0的正態分佈

方法:待定係數法,先決定影響因素個數,1個還是多個,若1個,設未知數a,b,樣本點到直線l:ax+b-y=0的距離平方和函式w(a,b)是二元二次函式,先確定邊界點,再確定邊界內是否光滑,若是,求偏導[梯度下降優化],令其為0,求出a,b。若不光滑,將不可導點和邊界點作為可疑點帶入計算,求w最小值[普通最小二乘法]對應的a,b。確定a,b後,計算每個點到回歸線的誤差,檢驗誤差是否服從均值為0的正態分佈,相關係數r代表能被回歸直線解釋的比例,多元同理。

2.邏輯回歸[實際用的比線性回歸多,因為邏輯判斷是社會衡量事情的主要方式,比如大中小戶,優良中差][常用spss]

一元:y=a(x)x+b+c,d為y的臨界點,通常為0.5,誤差c服從均值為0的正態分佈

n元:y=a1(x1)x1+a2(x2)x2+a3(x3)x3+...an(xn)xn+b+c,d為y的臨界點,通常為0.5,誤差c服從均值為0的正態分佈

它的目標是找出每個輸入變數的加權系數值,**輸出值的函式是非線性的

邏輯回歸的函式影象看起來是乙個大的s形,並將任何值轉換至0到1的區間[由於慣性起步慢,中途突破臨界點,開始加速,後期受到天命,資源限制,開始減速,比如有人考90,有人考100,考90的是突破了臨界點,考100的是受到了分數上限的限制]

機器學習 演算法調參

coding utf 8 演算法調參.ipynb automatically generated by colaboratory.original file is located at 超引數優化 這是機器學習模型解決問題的最後乙個步驟,並不是整個解決方案的最後一步。不會調參就不能說會機器學習。引數...

機器學習 調參

在實際調整引數之前,我們先要搞清楚兩個事情 1.調參的目的是什麼?2.調參調的東西具體是什麼?第乙個問題 調參的目的是什麼?調參的最終目的是要使訓練之後的模型檢測物體更精確,向程式的方向更靠近一步的話,就是使得損失函式 例如ssd中的loss 盡量小 因為利用訓練集訓練出來的模型質量在訓練過程中只能...

初級演算法班(1) 機器學習相關概念

寫在前面 這是初級演算法版第一次作業的第二部分,同樣由於時間原因準備的不充分,使用的是csdn的富文字編輯器,今天結束後會熟悉一下markdown編輯器,希望下次至少在格式上有所改進。一.有監督學習 1 從有標記的訓練資料中推導出 函式 2 有標記的訓練資料是指每個訓練例項都包括輸入和期望的輸出 3...