(整理)16梯度法和共轭梯度法基本原理和特点..pdfVIP

精品文档

16梯度法和共轭梯度法基本原理和特

点？

梯度法又称最速下降法，基本原理是在迭代

点附近采用使目标函数值下

降最快的负梯度方向作为搜索方向，

求目标函数的极小值，特

点；迭代计算简单，只需求一阶偏导数，所占的存储单

元少，对初始点的要求不

高，在接近极小点位置时收敛速度很慢，共轭的特点为

在梯度法靠近极值点收敛速度放

慢时，它可以构造共轭方向使其收敛速度加快，

迭代计算比较简单，效果

好，在每一步迭代过程中都要构造共轭的、方向，比较繁琐。

17迭代终止准则有哪三种？

1）当设计变量在相邻两点之间的移

动距离充分小时，可用相邻两点的矢量差的

模作为终止的判据，

2）当相邻两点目标函数值之差达到充分小时，可

用两次迭代的目标函数之

差作为终止判据。

3）当迭代点逼近极值点时，目标函数在该点的梯

度已达到充分小时，可用梯度的模作为

精品文档

精品文档

终止判据。

18

.无约束设计法，1）powell法，它是在下降迭代

过运算中只需计算和比较目

标函数值的大小，不需计算偏

导数的方法，是较好的一种直接搜索

算法。

2）梯度法，又称最速下降法，它是采用使目标

函数值下降最快的负梯度方

向作为搜索方向来求目标函数的

极小值。

3）共轭梯度法，又称FR法，是利用目标函数

的梯度确定共轭方向，使得计算简便而效

果好，只需利用相邻两点的梯度就可以构造

一个共轭方向，这种方式产生共轭方

向并进行迭代的算法称为

共轭梯度法。

4）变尺度法，又称DFP法，为了得到既有快速收敛的性质，

又能避免计算二阶导数矩阵及逆

矩阵，减少计算工作量。迭代公式