第8讲无约束问题求解(2).pptVIP

首先考虑二次函数的无约束极小问题 1 定义：设 为n阶正定阵，若n维方向 满足 1共轭梯度法思想： 将共轭性与最速下降方法结合，利用已知点处的梯度构造一组共轭方向，并沿此组方向进行搜索，求出极小点。 适用范围：凸函数 FR共轭梯度法的理论推导* 定理 设向量 为 共轭，则从点 出发，相继以 为搜索方向的下述算法： 经n次一维搜索收敛于问题（I ）的极小点 证明(1) 式： 证明(2) 式： 用FR共轭梯度法求解 （三）共轭梯度法的优缺点 优点 (1)编制程序比较简单 (2)对函数的要求宽松,不需函数的导数信息。 缺点 收敛速度比较慢， 适用场合 对变量不多的问题可以使用，另外，还可用于求解非线 性目标规划问题。 （三）模式搜索法的优缺点 作业：习题4 3（1），5，6（选做） * 无约束极值问题算法（1） （2学时） 无约束极值问题算法（2） （2学时） 第4章 无约束极值问题 共轭梯度法 （1学时） 步长加速法 （1