第四章_无约束最优化方法.pptVIP

注: （１）DFP算法具有二次终止性． （２）搜索方向是共轭方向： 　DFP校正公式的正定继承性 引理2: 设 为 正定阵， 且 则： 为正定阵的充要条件是 定理5: 在DFP算法中， 如果 正定， 则整个矩阵列 都正定． 　DFP算法的二次终止性 推论: 在上面定理条件下： （1） DFP算法至多经过 次迭代就可得到极 小点，即存在 有： （2） 若 则 BFGS校正公式 (称为关于 的BFGS校正公式或互补DFP公式) 由上式可得： 对称秩一校正公式 要求： 要求Hesse逆近似也是对称的， 即： 取： 因此： 注: （1）通常不能保证 （2）分母可能取零,修正公式不再有意义． 的正定性． （3）逼近 程度高， 近来用于信赖域算法， 取得了很好的效果． Broyden族 取 注： 得DFP校正． 注： 得BFGS校正． 得对称秩一校正． 其中： Broyden族算法性质 定理6: 设 在 上连续可微， 给定 在精确线搜索下， 由Broyden族算法产生的点 列 与参数 无关． 结论： 可将DFP算法的性质推广到整个Broyden族 作　业 (1)用FR共轭梯度法求解： (2)用DFP算法求解： 问题1: 如何建立有效的算法？ 从二次模型到一般模型 问题2: 什么样的算法有效呢？ 二次终止性 § 4.3 共轭方向法 与共轭梯度法 算法特点 （１）建立在二次模型上，具有二次终止性．