更多程式設計教程請到：菜鳥教程
高州陽光論壇
人人影視
假設我們已經知道梯度法——最速下降法的原理。
現給出乙個算例：
如果人工直接求解：
現給出python求解過程：
import numpy as npx1, x2, t = symbols(『x1, x2, t』)from sympy import *
import math
import matplotlib.pyplot as plt
import mpl_toolkits.axisartist as axisartist
def func():
return pow(x1, 2) + 2 * pow(x2, 2) - 2 * x1 * x2 - 2 * x2
def grad(data):
def grad_len(grad):
vec_len = math.sqrt(pow(grad[0], 2) + pow(grad[1], 2))
return vec_len
def zhudian(f):
t_diff = diff(f)
t_min = solve(t_diff)
return t_min
def main(x0, theta):
f = func()
grad_vec = grad(x0)
grad_length = grad_len(grad_vec) # 梯度向量的模長
k = 0
data_x = [0]
data_y = [0]
while grad_length > theta: # 迭代的終止條件
k += 1
p = -np.array(grad_vec)
print(k)
fig = plt.figure()
ax = axisartist.subplot(fig, 111)
fig.add_axes(ax)
ax.axis[「bottom」].set_axisline_style("-|>", size=1.5)
ax.axis[「left」].set_axisline_style("->", size=1.5)
ax.axis[「top」].set_visible(false)
ax.axis[「right」].set_visible(false)
plt.title(r』gra
dien
tmet
hod−
stee
pest
desc
entm
etho
dgradient \ method - steepest \ descent \ method
gradie
ntme
thod
−ste
epes
tdes
cent
meth
od』)plt.plot(data_x, data_y, label=r』f(x
1,x2
)=x1
2+2⋅
x22−
2⋅x1
⋅x2−
2⋅x2
f(x_1,x_2)=x_1^2+2 \cdot x_2^2-2 \cdot x_1 \cdot x_2-2 \cdot x_2
f(x1,
x2)
=x12
+2⋅
x22
−2⋅x
1⋅x
2−2
⋅x2
』)plt.legend()
plt.scatter(1, 1, marker=(5, 1), c=5, s=1000)
plt.grid()
plt.xlabel(r』x
1x_1
x1』, fontsize=20)
plt.ylabel(r』x
2x_2
x2』, fontsize=20)
plt.show()
ifname== 『main』:
main([0, 0], 0.00001)
最終結果圖如下所示：
python實現共軛梯度法
共軛梯度法 conjugate gradient 是介於最速下降法與牛頓法之間的乙個方法，它僅需利用一階導數資訊，但克服了最速下降法收斂慢的缺點，又避免了牛頓法需要儲存和計算hesse矩陣並求逆的缺點，共軛梯度法不僅是解決大型線性方程組最有用的方法之一，也是解大型非線性最優化最有效的演算法之一。這裡...
python實現共軛梯度法
共軛梯度法是介於最速下降法與牛頓法之間的乙個方法，它僅需利用一階導數資訊，但克服了最速下降法收斂慢的缺點，又避免了牛頓法需要儲存和計算hesse矩陣並求逆的缺點，共軛梯度法不僅是解決大型線性方程組最www.cppcns.com有用的方法之一，也是解大型非線性最優化最有效的演算法之一。在各種優化演算法...
python實現牛頓法 牛頓迭代法Python實現
例1 給定方程 f x x 2 sin x 1 0 判別該方程有幾個實根，並用牛頓法求出方程所有實根，精確到 10 解 利用畫圖法觀察根的所在區間為 2,1 和 0,1 其中藍色為 y f x 的曲線，橘黃色的直線是 y 0 畫圖 import numpy as np import matplotl...