数值最优化4.pptVIP

第五章 无约束问题算法（III） ——共轭梯度法 共轭方向法的思路 对于简单的二次函数 共轭方向法的思路 共轭方向法的思路 共轭方向法的思路 在三维情况下,上面的迭代过程可以用图形来表示. 共轭方向法的思路 上面的方法对一般的二次函数是否适用呢? 考虑问题 共轭方向法的思路 在空间Rn上,重新定义内积与范数: 共轭方向法的思路 在Rn上,按照上面定义的内积给出一组正交基p1,p2,···,pn, 共轭方向法的思路 共轭方向法的思路 共轭方向法的思路 定义 设n维向量组p1,···,pk线性无关, x(0)∈Rn, 称向量集合 为由点x(0)与 p1,p2,···,pk 生成的k维超平面. 超平面上极小点的判断 若函数f(x)连续可微, p1,p2,···,pk为一组线性无关的n维向量, x(0)∈Rn, 超平面上极小点的判断 超平面上极小点的判断 反之,若 超平面上极小点的判断 引理 设f (x)为连续可微的严格凸函数,又 p1,p2,···,pk为一组线性 无关的n维向量, x1∈Rn ,则 是f(x)在x1与p1,p2,···,pk所生成的k维超平面Hk上唯一极小点的充 分必要条件是 练习： 用FR共轭梯度法求解(x0=(0,0)T) 从x1出发,沿p1作一维搜索,