最小二乘擬合詳解

2021-07-06 07:31:40 字數 3341 閱讀 8494

最小二乘法多項式曲線擬合,根據給定的m個點,並不要求這條曲線精確地經過這些點,而是曲線y=f(x)的近似曲線y= φ(x)。

[原理部分由個人根據網際網路上的資料進行總結,希望對大家能有用]

給定資料點pi(xi,yi),其中i=1,2,…,m。求近似曲線y= φ(x)。並且使得近似曲線與y=f(x)的偏差最小。近似曲線在點pi處的偏差δi= φ(xi)-y,i=1,2,...,m。

常見的曲線擬合方法:

1.使偏差絕對值之和最小

2.使偏差絕對值最大的最小

3.使偏差平方和最小

按偏差平方和最小的原則選取擬合曲線,並且採取二項式方程為擬合曲線的方法,稱為最小二乘法。

推導過程:

1. 設擬合多項式為:

2. 各點到這條曲線的距離之和,即偏差平方和如下:

3. 為了求得符合條件的a值,對等式右邊求ai偏導數,因而我們得到了: 

.......

4. 將等式左邊進行一下化簡,然後應該可以得到下面的等式:

.......

5. 把這些等式表示成矩陣的形式,就可以得到下面的矩陣:

6. 將這個範德蒙得矩陣化簡後可得到:

7. 也就是說x*a=y,那麼a = (x'*x)-1*x'*y,便得到了係數矩陣a,同時,我們也就得到了擬合曲線。 實現

執行前提:

python執行環境與編輯環境;

matplotlib.pyplot圖形庫,可用於快速繪製2d圖表,與matlab中的plot命令類似,而且用法也基本相同。

**:

[python]view plain

copy

# coding=utf-8

'''''

程式:多項式曲線擬合演算法

'''import

matplotlib.pyplot as plt  

import

math  

import

numpy  

import

random  

fig = plt.figure()  

ax = fig.add_subplot(111

)  #階數為9階

order=9

#生成曲線上的各個點

x = numpy.arange(-1,1

,0.02

)  y = [((a*a-1

)*(a*a-

1)*(a*a-1)+

0.5)*numpy.sin(a*2) 

fora 

inx]  

#ax.plot(x,y,color='r',linestyle='-',marker='')

#,label="(a*a-1)*(a*a-1)*(a*a-1)+0.5"

#生成的曲線上的各個點偏移一下,並放入到xa,ya中去

i=0xa=  

ya=  

forxx 

inx:  

yy=y[i]  

d=float(random.randint(60

,140

))/100

#ax.plot([xx*d],[yy*d],color='m',linestyle='',marker='.')

i+=1

'''''for i in range(0,5):

xx=float(random.randint(-100,100))/100

yy=float(random.randint(-60,60))/100

ax.plot(xa,ya,color='m'

,linestyle=

'',marker=

'.')  

#進行曲線擬合

mata=  

fori 

inrange(

0,order+

1):  

mata1=  

forj 

inrange(

0,order+

1):  

tx=0.0

fork 

inrange(

0,len(xa)):  

dx=1.0

forl 

inrange(

0,j+i):  

dx=dx*xa[k]  

tx+=dx  

#print(len(xa))

#print(mata[0][0])

mata=numpy.array(mata)  

matb=  

fori 

inrange(

0,order+

1):  

ty=0.0

fork 

inrange(

0,len(xa)):  

dy=1.0

forl 

inrange(

0,i):  

dy=dy*xa[k]  

ty+=ya[k]*dy  

matb=numpy.array(matb)  

mataa=numpy.linalg.solve(mata,matb)  

#畫出擬合後的曲線

#print(mataa)

xxa= numpy.arange(-1

,1.06

,0.01

)  yya=  

fori 

inrange(

0,len(xxa)):  

yy=0.0

forj 

inrange(

0,order+

1):  

dy=1.0

fork 

inrange(

0,j):  

dy*=xxa[i]  

dy*=mataa[j]  

yy+=dy  

ax.plot(xxa,yya,color='g'

,linestyle=

'-',marker=

'')  

ax.legend()  

plt.show()  

執行效果: 

最小二乘擬合 6 7 最小二乘擬合問題

資料擬合問題的一般形式 任給一組離散資料 注 這裡的擬合函式不一定為多項式函式 記殘量的平方和為 求使得殘量平方和最小得一組係數就是線性最小二乘問題,為最小二乘問題得基函式,求得的擬合函式為資料的最小二乘擬合。求解 利用偏導數為零得到極值點的原理可以得到最小二乘問題滿足的方程組,求解方程組中未知係數...

最小二乘擬合

來自 某小皮 最優化函式庫optimization 優化是找到最小值或等式的數值解的問題。scipy.optimization子模組提供函式最小值,曲線擬合和尋找等式的根的有用演算法。最小二乘擬合 假設有一組實驗資料 xi,yi 事先知道它們之間應該滿足某函式關係yi f xi 通過這些已知的資訊,...

最小二乘線性擬合

實驗 給出實驗資料 程式 如下 write by void,2013.4.15,beijing import matplotlib.pyplot as plt import numpy as np x 13,15,16,21,22,23,25,29,30,31,36,40,42,55,60,62,6...