ch05常用无束最优化方法.pptVIP

* * * * * * * * * * * 为了使（1）成立，必须要 为了保证 及（2）的右边为对称矩阵，取 —————————— * 此时有 故 此时修正矩阵为： DFP算法的矩阵迭代公式为： 算法5.4.1 (DFP法) 1. 任取 和H0(一般取H0=I) 2. 若 则停; 否则令 λk由一维搜索求得; 3. 计算 4. k←k+1, 转2。 * 例5.6 用DFP算法求解 取 解: 取H0=I时, DFP法的第一步与最速下降法相同。 * 第二轮迭代： 先计算 * 得: 令： 利用： 求得： 因 停止, x(2)即为最优解。 * * BFGS方法是由Broyden, Fletcher, Goldfarb和Shanno于1970年共同研究的成果。 5.4.3 BFGS方法 由于拟Newton法要求 满足 取 其中 是一个实数。满足 * 取 变得DFP公式。若取 迭代公式 BFGS法比DFP法更具有实用性, 其原因是BFGS法对一维搜索的精度要求不高, 并且由BFGS法产生