線性回歸的來歷

2021-07-31 21:52:43 字數 1394 閱讀 8236

為什麼叫回歸分析(regression toward mediocrity)-趨中回歸

有人可能會好奇,為什麼叫「回歸」這個名稱,它有什麼具體含義?實際上,回歸這種現象最早由英國生物統計學家高爾頓在研究父母親和子女的遺傳特性時所發現的一種有趣的現象:

身高這種遺傳特性表現出「高個子父母,其子代身高也高於平均身高;但不見得比其父母更高,到一定程度後會往平均身高方向發生『回歸』」。 這種效應被稱為「趨中回歸」。現在的回歸分析則多半指源於高爾頓工作的那樣一整套建立變數間數量關係模型的方法和程式。

回歸分析最早是19世紀末期高爾頓(sir francis galton)所發展。高爾頓是生物統計學派的奠基人,他的表哥達爾文的巨著《物種起源》問世以後,觸動他用統計方法研究智力進化問題,統計學上的「相關」和「回歸」的概念也是高爾頓第一次使用的。

2023年,他發表了一篇「遺傳的身高向平均數方向的回歸」文章,分析兒童身高與父母身高之間的關係,發現父母的身高可以**子女的身高,當父母越高或越矮時,子女的身高會比一般兒童高或矮,他將兒子與父母身高的這種現象擬合出一種線形關係。但是有趣的是:通過觀察他注意到,儘管這是一種擬合較好的線形關係,但仍然存在例外現象:矮個的人的兒子比其父要高,身材較高的父母所生子女的身高將回降到人的平均身高。換句話說,當父母身高走向極端(或者非常高,或者非常矮)的人的子女,子女的身高不會象父母身高那樣極端化,其身高要比父母們的身高更接近平均身高。高爾頓選用「回歸」一詞,把這一現象叫做「向平均數方向的 回歸」(regression toward mediocrity)。

而關於父輩身高與子代身高的具體關係是如何的,高爾頓和他的學生k·pearson觀察了1078對夫婦,以每對夫婦的平均身高作為自變數,取他們的乙個成年兒子的身高作為因變數,結果發現兩者近乎一條直線,其回歸 直線方程為:y^=33.73+0.516x ,這種趨勢及回歸方程表明父母身高每增加乙個單位時,其成年兒子的身高平均增加0.516個單位。這樣當然極端值就會向中心靠攏。

depending on the context, an independent variable is also known as a 「predictor variable,」 「regressor,」 「controlled variable,」 「manipulated variable,」 「explanatory variable,」 「exposure variable,」 and/or 「input variable.」[5] a dependent variable is also known as a 「response variable,」 「regressand,」 「measured variable,」 「observed variable,」 「responding variable,」 「explained variable,」 「outcome variable,」 「experimental variable,」 and/or 「output variable.

線性回歸模型 線性回歸模型

回歸的思想和分類有所不一樣,分類輸出的結果為離散的值,回歸輸出的是乙個連續型的值。線性回歸的思想就是試圖找到乙個多元的線性函式 當輸入一組特徵 也就是變數x 的時候,模型輸出乙個 值y h x 我們要求這個 值盡可能的準確,那麼怎麼樣才能做到盡可能準確呢?其中 表示實際值,表示 值 其中 表示實際值...

線性回歸(標準回歸)

今天我們來討論機器學習的另乙個領域 首先我們來討論利用線性回歸來 數值型資料。利用線性回歸進行 的過程就是求解回歸係數的過程,求出回歸係數後進行係數與特徵值乘積求和即可,這裡我們使用最小二乘法進行求解 ex0.txt 提取碼 dbe2 def loaddataset filename numfeat...

回歸學習 線性回歸

匯入資料 from sklearn.datasets import load boston boston load boston print boston.descr 資料分割 from sklearn.cross validation import train test split import ...