回歸與梯度下降 LeftNotEasy

2021-07-11 10:01:46 字數 3096 閱讀 6090

回歸在數學上來說是給定乙個點集,能夠用一條曲線去擬合之,如果這個曲線是一條直線,那就被稱為線性回歸,如果曲線是一條二次曲線,就被稱為二次回歸,回歸還有很多的變種,如locally weighted回歸,logistic回歸,等等,這個將在後面去講。

用乙個很簡單的例子來說明回歸,這個例子來自很多的地方,也在很多的open source的軟體中看到,比如說weka。大概就是,做乙個房屋價值的評估系統,乙個房屋的價值來自很多地方,比如說面積、房間的數量(幾室幾廳)、地段、朝向等等,這些影響房屋價值的變數被稱為特徵(feature),feature在機器學習中是乙個很重要的概念,有很多的**專門**這個東西。在此處,為了簡單,假設我們的房屋就是乙個變數影響的,就是房屋的面積。

假設有乙個房屋銷售的資料如下:

面積(m^2) 銷售價錢(萬元)

123 250

150 320

87 160

102 220

這個表類似於帝都5環左右的房屋價錢,我們可以做出乙個圖,x軸是房屋的面積。y軸是房屋的售價,如下:

如果來了乙個新的面積,假設在銷售價錢的記錄中沒有的,我們怎麼辦呢?

我們可以用一條曲線去盡量準的擬合這些資料,然後如果有新的輸入過來,我們可以在將曲線上這個點對應的值返回。如果用一條直線去擬合,可能是下面的樣子:

綠色的點就是我們想要**的點。

首先給出一些概念和常用的符號,在不同的機器學習書籍中可能有一定的差別。

房屋銷售記錄表 - 訓練集(training set)或者訓練資料(training data), 是我們流程中的輸入資料,一般稱為x

房屋銷售價錢 - 輸出資料,一般稱為y

擬合的函式(或者稱為假設或者模型),一般寫做 y = h(x)

訓練資料的條目數(#training set), 一條訓練資料是由一對輸入資料和輸出資料組成的

輸入資料的維度(特徵的個數,#features),n

下面是乙個典型的機器學習的過程,首先給出乙個輸入資料,我們的演算法會通過一系列的過程得到乙個估計的函式,這個函式有能力對沒有見過的新資料給出乙個新的估計,也被稱為構建乙個模型。就如同上面的線性回歸函式。

我們用x1,x2..xn 去描述feature裡面的分量,比如x1=房間的面積,x2=房間的朝向,等等,我們可以做出乙個估計函式:

θ在這兒稱為引數,在這兒的意思是調整feature中每個分量的影響力,就是到底是房屋的面積更重要還是房屋的地段更重要。為了如果我們令x0 = 1,就可以用向量的方式來表示了:

我們程式也需要乙個機制去評估我們θ是否比較好,所以說需要對我們做出的h函式進行評估,一般這個函式稱為損失函式(loss function)或者錯誤函式(error function),描述h函式不好的程度,在下面,我們稱這個函式為j函式

在這兒我們可以做出下面的乙個錯誤函式:

這個錯誤估計函式是去對x(i)的估計值與真實值y(i)差的平方和作為錯誤估計函式,前面乘上的1/2是為了在求導的時候,這個係數就不見了。

如何調整θ以使得j(θ)取得最小值有很多方法,其中有最小二乘法(min square),是一種完全是數學描述的方法,在stanford機器學習開放課最後的部分會推導最小二乘法的公式的**,這個來很多的機器學習和數學書上都可以找到,這裡就不提最小二乘法,而談談梯度下降法。

梯度下降法是按下面的流程進行的:

1)首先對θ賦值,這個值可以是隨機的,也可以讓θ是乙個全零的向量。

2)改變θ的值,使得j(θ)按梯度下降的方向進行減少。

為了更清楚,給出下面的圖:

這是乙個表示引數θ與誤差函式j(θ)的關係圖,紅色的部分是表示j(θ)有著比較高的取值,我們需要的是,能夠讓j(θ)的值盡量的低。也就是深藍色的部分。θ0,θ1表示θ向量的兩個維度。

在上面提到梯度下降法的第一步是給θ給乙個初值,假設隨機給的初值是在圖上的十字點。

然後我們將θ按照梯度下降的方向進行調整,就會使得j(θ)往更低的方向進行變化,如圖所示,演算法的結束將是在θ下降到無法繼續下降為止。

當然,可能梯度下降的最終點並非是全域性最小點,可能是乙個區域性最小點,可能是下面的情況:

上面這張圖就是描述的乙個區域性最小點,這是我們重新選擇了乙個初始點得到的,看來我們這個演算法將會在很大的程度上被初始點的選擇影響而陷入區域性最小點

下面是更新的過程,也就是θi會向著梯度最小的方向進行減少。θi表示更新之前的值,-後面的部分表示按梯度方向減少的量,α表示步長,也就是每次按照梯度減少的方向變化多少。

乙個很重要的地方值得注意的是,梯度是有方向的,對於乙個向量θ,每一維分量θi都可以求出乙個梯度的方向,我們就可以找到乙個整體的方向,在變化的時候,我們就朝著下降最多的方向進行變化就可以達到乙個最小點,不管它是區域性的還是全域性的。

用更簡單的數學語言進行描述步驟2)是這樣的:

倒三角形表示梯度,按這種方式來表示,θi就不見了,看看用好向量和矩陣,真的會大大的簡化數學的描述啊。

線性回歸與梯度下降

以下內容是根據史丹福大學ng教授的機器學習公開課總結的內容 監督學習 即訓練資料中既包含了輸入資料又包含了對應於這個是輸入資料的正確的輸出結果。回歸問題 當給出了輸入資料後,正確的輸出結果。首先考慮乙個問題 我們需要 自己房屋的 現在擁有的資料只是幾十個房屋樣本 如下圖所示。怎樣根據這些房屋的面積以...

線性回歸與梯度下降

以下內容是根據史丹福大學ng教授的機器學習公開課總結的內容 監督學習 即訓練資料中既包含了輸入資料又包含了對應於這個是輸入資料的正確的輸出結果。回歸問題 當給出了輸入資料後,正確的輸出結果。首先考慮乙個問題 我們需要 自己房屋的 現在擁有的資料只是幾十個房屋樣本 如下圖所示。怎樣根據這些房屋的面積以...

線性回歸與梯度下降

本次課程分為幾個部分 1 模型概述 如圖,下圖是乙個房間大小和房子 的dataset,我們可以使用一條直線來模擬這些資料,以便給定指定的x值,可以得到相應的y值 將資料抽象為以下回歸的問題的dataset 首先規定以下數學符號 m 訓練樣本的數量 x 代表特徵 輸入變數 y 代表目標變數 輸出變數 ...