單變數線性回歸

2022-07-27 22:03:21 字數 843 閱讀 7532

這是乙個單變數(房子的面積)問題。這是乙個監督學習的問題,對於每乙個資料我們都給出了乙個正確的price。

準備工作:

在書中他的表示是 hθ(x) = θ0 + θ1x1,它的意思是因為只有乙個變數x1所以稱之為單變數線性回歸。

這些都目前看來沒有什麼問題。下一步提出了乙個代價函式的感念,也就是說。每一次**出的誤差都是應該被思考的。

jθ被稱為代價函式, [hθ(x) = θ0 + θ1x1] - real(price)=mistakes = jθ

為了防止出現正負變換,所以用 (θ0 + θ1x - y)的平方這樣的方式,這也就是說式子進一步簡化之後可以得出乙個這樣的式子:

θ0和θ1對於代價函式的影響是乙個u字形的。

下一步簡單的讓它自己改變一下θ0和θ1

這裡書本中引入的概念是梯度下降,公式如下:

上面的公式是乙個位置更新公式,乙個賦值等號,對θi進行不斷的更新,α是學習速率。第一次更新的時候,預設θi是x的話,α*1*x,那麼西塔i第一次更新之後就是αx,然後對i進行替換,0123456789....,當jθ慢慢變小的時候,θi的△也越來越小,反之。

這就是代價函式,但其實不一定要用那個偏導的引數,因為如果是一次的話其實是不會改變的,所以其實可以用別的代替

如果我自己定義代價函式的話:針對一次二次三次次數,可以用不用的值直接代替,或者用乙個很小的固定值雖然會增加迴圈的次數,但是就不會看起來這麼搞了。

單變數線性回歸

參考 模型表示 線性回歸 linear regression 是利用稱為線性回歸方程的最小平方函式對乙個或多個自變數和因變數之間關係進行建模的一種回歸分析。這種函式是乙個或多個稱為回歸係數的模型引數的線性組合。只有乙個自變數的情況稱為簡單回歸,大於乙個自變數情況的叫做多元回歸。詳細描述 之前的房屋交...

單變數線性回歸

線性回歸模型 linear regression model 包括線性假設 linear hypothesis 和平方差代價函式 squared error cost function 字母的含義 m number of training examples 訓練樣本的數量 x input varia...

回歸問題 單變數線性回歸

回歸問題之單變數線性回歸 代價函式 模型表示 梯度下降 梯度下降的線性回歸 一 模型表示 我們通過 學習演算法 之 線性回歸演算法 了解監督學習的流程,以之前的房屋交易為例。所用到的引數 m 訓練集中例項的個數 x 代表特徵 輸入變數 y 代表目標變數 輸出變數 x,y 代表訓練集中的例項 xi,y...