工优第四章.ppt

* 依据三个原则：拟Newton方程、二次收敛性和算法稳定性， 要求Hk满足拟Newton方程、是对称正定矩阵，并且针对正定二次 函数， 是一组共轭方向组。 变尺度法----一类特殊的拟Newton法 Hk构造的要求 * 构造这样一个对称正定的近似矩阵Hk的一般策略是： (1) H1取为任意一个n阶对称正定矩阵，通常选取为n阶单位 矩阵 I; (2) 然后通过修正Hk ，给出 Hk+1 ，令 变尺度法----一类特殊的拟Newton法 Hk的构造策略 构造不同的Hk ，也就是构造不同的修正矩阵 ，得到不 同的变尺度法。 下面介绍DFP变尺度法中Hk的构造过程。 * DFP算法 (Davidon(1959), Fletcher and Powell (1963)) 为保证Hk+1的对称性，令 是常数， 是n维列向量。 H1是对称正定的矩阵，上述方式定义的Hk+1自然是对称的。 DFP算法中Hk的构造方法 Hk+1满足拟牛顿方程， ， 根据构造Hk+1的三原则-