在推導使用svd分解解方程時，用到了正交矩陣的保範性這一性質。
1、正交矩陣定義a
⊺\mathbf^\intercal
a⊺a=aa
⊺\mathbf^\intercal
a⊺=e
2、正交矩陣的保範性
正交矩陣對向量進行正交變換，且正交變換不改變向量的長度(範數)：
設x的正交變換為ax，則ax的範數為：
由此可見ax的範數與x的範數相等。
3、svd求解方程中的應用
a的svd分解：a=udvt (t代表轉置)
其中，u，v為正交矩陣。
(1)、用奇異值解超定方程ax=b時，會用到求||ax-b||最小值，||ax-b||=||udvtx-b||
接下來，||udvt-b||=||dvtx-utb||
上式正是應用了正交變換的保範性質
將向量udvt-b左乘正交矩陣ut。
(2)、約束條件||x||=1的條件下，求使||ax||最小的x。
設a=udvt ，那麼問題變成求||udvtx||的最小值。
由正交矩陣的保範性：
||udvtx||=||dvtx|| ，||x|| = ||vtx||
問題變成在約束條件iivtxll=1下，求||dvtx||的最小值。
令y=vtx，則問題簡化為
約束條件||y||=1下，求||dy||的最小值
矩陣論筆記（三） 歐氏空間與正交變換
包括兩種內積空間 1 實內積空間 歐氏空間 2 復內積空間 酉空間 本節講歐氏空間，包括四個部分 1 歐氏空間 2 正交性 3 正交變換與正交矩陣 4 對稱變換與對稱矩陣 歐氏空間即是實內積空間 定義 1 歐氏空間 實數域上的 v 定義兩向量到實數的對映 x,y 滿足交換律 分配率 齊次性 非負性，...
空間正交基的定義 正交矩陣
正交 可以簡單理解成就是垂直.正交矩陣 定義 滿足 這個怎麼理解呢？我們假設a是乙個列向量矩陣，標識為 a 從上推導可以看出 任意 如果i和j不相等 則 0,那就是說這兩個向量垂直.如果i和j相等 則 1,那就是說 向量自身的內積為1，也就是 向量是單位向量 模為1的向量 對於正交矩陣，組成它的列向...
正交變換與深度學習網路之間的模擬雜談
傳統的模式識別裡面，主要是對訊號進行特徵提取，然後對特徵進行識別，這樣既能減除大部分無謂的干擾，又能降低識別的運算量。所謂特徵就是訊號的本質，本質總是能通過各種形式表現出來，表現形式就是訊號本身，我對訊號本質進行抽取，也就是特徵。大家熟知的一種正交變換就是傅利葉變換，他能把訊號轉換到頻率域，也就是將...