工程优化 第4章-1.pptVIP

（3）采用加速梯度法： 由于最速下降法在极小点附近成“锯齿”状，因此下降过程中的搜索方向可取 下两步继续用最速下降方向即负梯度方向。 Shah等人于1964年提出了一种“平行切线法”（简记为PARTAN法），又称加速梯度法。 最速下降法的改进 负梯度方向和 结合 这两种方向交替使用，效用要比最速下降法好的多。 用于二次函数时的收敛速度分析 定理：设二次函数 A对称正定， 分别 为其最小和最大特征值，从任意初点 出发，用最速下降 法求f的极小点，产生的序列为 ，对于 有 由于 而函数 的极小点恰好是 。故最速下 降法对于二次函数关于任意初始点均收敛，且是线性收敛。 下面说明最速下降法收敛性的几何意义。 考虑A为正三角矩阵时的二次函数 函数的等值线为 其中 用于二次函数时的收敛速度分析 改写为： 这是以 和 为半轴的椭