4-1_无约束最优化方法要素.ppt

问题提出 最速下降法算法 收敛性分析 收敛性分析 最速下降法优点 最速下降法缺点 小结 基本思想 算法构造 牛顿法算法 牛顿法收敛定理 牛顿法优点 牛顿法缺点 阻尼牛顿法算法 阻尼牛顿法收敛定理 阻尼牛顿法收敛定理 带保护的牛顿法算法 Gill-Murray稳定牛顿法 算法特点 共轭方向及其性质 共轭方向法算法 共轭方向法基本定理 共轭梯度法 共轭梯度法基本性质 系数的其他形式 FR共轭梯度法算法 FR共轭梯度法收敛定理 再开始FR共轭梯度法算法 作业：FR共轭梯度法（上机） 基本思想 算法原理 拟牛顿算法 DFP校正公式 　DFP校正公式的正定继承性 　DFP算法的二次终止性 BFGS校正公式 对称秩一校正公式 Broyden族 Broyden族算法性质 作　业 注: （１）DFP算法具有二次终止性． （２）搜索方向是共轭方向： 引理2: 设 为 正定阵， 且 则： 为正定阵的充要条件是 定理5: 在DFP算法中， 如果 正定， 则整个矩阵列 都正定． 推论: 在上面定理条件下： （1） DFP算法至多经过 次迭代就可得到极 小点，即存在 有： （2） 若 则 问题1: 如何建立有效的算法？ 从二次模型到一般模型 问题2: 什么样的算法有效呢？ 二次终止性 § 4.3 共轭方向法 与共轭梯度法 （１）建立在二次模型上，具有二次终止性． （２）有效的算法，克服了最速下降法的慢 收敛