工程优化方法4.ppt

下面看一下理论推导： 用于二次函数时的收敛性分析 Newton法的二次终止性 取 d(k)= -[▽2f(x(k)) ]-1 ▽f(x(k)) ， ▽2f(x(k)) 正定 - ▽f(x(k)) ，否则 采用下列不精确一维搜索：求λk , 满足Goldstein准则 1° f(x(k)+λkd(k)) ≤ f(x(k))+ δλk▽f(x(k)) Td(k) 2° f(x(k)+λkd(k)) ≥f(x(k))+ (1-δ) λk ▽f(x(k)) Td(k) 其中δ ∈(0,1／2) 引理4.4 设f(x)=1/2xTAx+bTx+c，AT=A0，给定方向p1，在与p1平行的两条直线上（如图），f(x)的最小点为x1，x2，则 p1TAp2=0, （p2=x2-x1） 算法的收敛性分析: 7. 利用非精确一维搜索方法 （1）得到的方法有可能不是下降方法，当不是下降方向的时候，用最速下降方向重新开始。但是这样的重新开始可能使大量的，因此会降低计算效率。 （2）利用一个下降的原则去控制。 为了利用不包含二阶导数的矩阵Hk+1取代▽2f(x(k))， 共轭梯度法评注 1、共轭梯度法的优点是不必计算Hesse矩阵及其逆矩阵，程序