模型設定與假設
多元線性回歸與一元線性回歸在思想上並沒有太大的不同 ，不過是多了一些變數罷了。考慮問題的角度要從之前的二維空間高階到高維空間。傳統的多元線性回歸模型可以用矩陣來描述。
按照ols估計方法得出的多元線性回歸的引數結果為
對於該式而言y的估計值
其實正是n維向量y 在n*k維矩陣（不存在向量自相關）所張成的k維空間上的正交投影。
正交投影是什麼？
使用餘弦定理也可以說明xb就是n維空間中的向量y在由x(n*p)矩陣構成的p維空間
中的正交投影。
正交投影矩陣可以由餘弦定理推出：以二維空間為例說明
（餘弦定理的證明可見
擴充套件到多維度空間的情況
便為矩陣x所張成的k維空間 的正交投影矩陣。
該矩陣乘上任何乙個n維向量所得到的結果即為該n維向量在空間
的正交投影。
矩陣的幾何意義
是指把一些資料如點，方向向量顏色等通過某些方式轉換的過程，下面來給大家介紹一下各種變換矩陣，和概念。線性變換 f x f y f x y kf x f kx 上面的例子有點抽象，如縮放就是一種線性變換，如f x 2x可以表示乙個大小為2的統一縮放，即經過向量x的模是原來的兩倍。同樣旋轉也是一種線性變...
Tangent Binormal的幾何意義
本來只知道n,t,b三個基向量如何計算，並據此定義tangent space。今天應該算明白過來，tangent和binormal應該是該三角形上的一點p分別對於u和v兩個量求偏導的結果，即dp du和dp dv 那個代表偏導的希臘字元還是算了吧 這樣三角形一點pi i 0 可以表示為pi p0 t...
線性模型 1 多元線性回歸
提綱 線性模型的基本形式 多元線性回歸的損失函式 最小二乘法求多元線性回歸的引數 最小二乘法和隨機梯度下降的區別 疑問學習和參考資料 1.線性模型的基本形式 線性模型是一種形式簡單，易於建模，且可解釋性很強的模型，它通過乙個屬性的線性組合來進行 其基本的形式為 式 1 轉換成向量形式之後寫成 式 2...