要明白什麼是線性回歸演算法，首先要明白什麼是線性，什麼是非線性、什麼是回歸。
線性：指兩個變數之間的關係是一次函式的關係——即影象為直線非線性：兩個變數之間的關係不是一次函式關係的——圖象不是直線，叫做非線性。
回歸：人們在測量事物的時候因為客觀條件所限，求得的都是測量值，而不是事物真實的值，為了能夠得到真實值，無限次的進行測量，最後通過這些測量資料計算回歸到真實值，這就是回歸的由來。即多次測量使測量值無限逼近與實際值。
線性回歸演算法就是大量線性的資料形成乙個線性函式去擬合估計實際值的演算法。
對大量的觀測資料進行處理，從而得到比較符合事物內部規律的數學表示式。也就是說尋找到資料與資料之間的規律所在，從而就可以模擬出結果，也就是對結果進行**。解決的就是通過已知的資料得到未知的結果。例如：對房價的**、判斷信用評價、電影票房預估等。
圖中對應的3個點分別為(1,1),(2,2),(3,3)那麼很明顯，最佳線性回歸模型就是h(x)=x。如果通過實驗證明呢？我們畫出在theta-1處於不同值的代價函式。
建模時間快，不需要很複雜的計算，在資料量大的情況下依然執行速度很快。
可以根據係數給出每個變數的理解和解釋。
對異常值很敏感。
機器學習基礎之線性回歸
1 代價函式 代價函式研究的本質 本人認為是在監督學習中找到代價最小，也就是說。是拿著知道結果的訓練樣本。先用假定的函式去 h x 得出得值和真實得做比較。2 線性回歸模型 h x x0 ax 就是直線方程。這裡就是假設函式 3 多變數線性回歸模型 4 特徵縮放 為了使得梯度下降快一些，需要對特徵進...
機器學習基礎1 線性回歸
定義 線性回歸 linear regression 是利用線性回歸方程的最小平方函式,對乙個或多個自變數和因變數之間關係進行建模的一種回歸分析。案例 房價 目標 房屋大小 x 和 y 之間的關係 如圖所示,我們將房屋 y,與房屋大小x,繪製在座標系.在這裡會引入新的定義 x 特徵,協變數,自變數 y...
機器學習演算法之線性回歸
有監督學習 學習樣本為 d xi,yi n i 1 輸出 的結果yi為連續值變數 需要學習對映 y 假定輸入x和輸出y之間有線性相關關係 對於給定的x，其輸出y f x wt x b 可以利用最小二乘法對w和b進行估計 根據自變數個數可以將線性回歸主要分為兩種 一元線性回歸和多元線性回歸。一元線性回...