最小均方演算法（least mean square，lms）由 bernard widrow 和 marcian e. hoff 提出，用於修正濾波器引數使均方差（mean square error，mse）達到最小。
用房價來舉例的話，可能影響房價的因素有住房大小、房子朝向。假設這些因素分別為 x1, x2, …, xn，我們通過這些因素**房價 h(x)=w0+w1x1+w2x2+…，我們的最終目標是使 h(x) 與真實結果 y 越接近越好。
為了表示 h(x) 與 y 的接近程度，我們引入損失函式：j(
w)=1
2∑mi
=12 ，損失函式越小，擬合程度越好，否則越差。
於是我們的目的就是找到一組 w1, w2, …, wn，使損失函式 j(w) 最小。lms 演算法便用於找到這樣的一組 w。
lms 演算法是從一組初始的 w 開始迭代，逐漸使 j(w) 變小直至收斂。它的迭代過程如下：wi
=wi+
α∂j(
wi)∂
wi，其中 α 稱為學習率 learning rate，數學上可以形象理解為梯度下降每次下降的步伐。
將迭代公式計算可得：wi
=wi−
α∑j=
1m(y
(j)−
h(x(
j)))
x(j)
i ，這樣的更新規則稱為 lms update rule，也稱為widrow-hoff learning rule。
總的來說，lms 演算法可以分為以下幾步：
初始化工作，為各個輸入端的權值覆上隨機初始值；
隨機挑選一組訓練資料，進行計算得出 h(x)；
利用公式 wi
=wi+
α(y(
j)−h
(x(j
)))x
ji對每乙個輸入端的權值進行調整；
計算均方差 mse；
對均方差進行判斷，如果大於某乙個給定值，回到步驟2，繼續演算法；如果小於給定值，就輸出正確權值，並結束演算法。
信源編碼作業二
1.利用程式 huff enc 和huff dec 進行以下操作 在每種情況下，利用由被壓縮影象生成的碼本 a 對sena sensin 和omaha 影象進行編碼。b 編寫一段程式，得到相鄰畫素之差，然後利用 huffman 對差值影象進行編碼。給出以上每一次試驗得出的檔案大小，並解釋其差別。a ...
信源編碼作業五
1 trvqsp img 獲得影象向量量化的碼書 呼叫引數格式 trvqsp img ts img codefile b cb size t block height w block width x row size y col size h ts img 是訓練影象，也即待量化壓縮的影象，假定為8...
最小均方演算法（LMS）
lms演算法是自適應濾波器中常用的一種演算法，與維納演算法不同的是，其系統的係數隨輸入序列而改變。維納演算法中擷取輸入序列自相關函式的一段構造系統的最佳係數。而lms演算法則是對初始化的濾波器係數依據最小均方誤差準則進行不斷修正來實現的。因此，理論上講lms演算法的效能在同等條件下要優於維納演算法，...