CAN-File-10-10-08-13-无约束优化_线搜索法.pptVIP

例 预条件共轭梯度法－算例 G是15×15 的对角矩阵，且 gii=i, i =1, ..., 15 C是15×15 的对角矩阵，且 M=CTC是15×15 的对角矩阵，且 预条件共轭梯度法－算例的结果 共轭梯度法－实用预条件子 目前研究的热点－寻求较好的预条件子 构造M使得 ⑴ M对称正定 (2) M-1G良态或极端特征值的数目少 (3) My=g 易于求解 ⊙ 特殊矩阵有好的预条件策略(PDEs离散化后所得) ⊙ 一般矩阵的预条件策略 ◇ 对称连续超松弛(SSOR) ◇ 不完全Cholesky分解(*****) ◇ 带状预条件子 拟牛顿法 Quasi-Newton Method 拟牛顿法－概述(*****) 假设 B(k) 满足割线/拟牛顿方程 ： B(k)s(k-1)=y(k-1), 其中 s(k-1)=x(k)-x(k-1) , y(k-1)=g(k)-g(k-1) 优点(与牛顿法相比)：只需一阶导数；每次迭代只需 O(n2)次乘法运算；H(k)正定蕴含着下降性. 拟牛顿方向： 拟牛顿法的第 k 步迭代：令H(k)=(B(k))-1 置 沿 p(k) 作线搜索得到 修正 H(k) 得到 H(k+1). 拟牛顿法－割线方程 易见： 处的梯度是g(k)，即 记 割线(secant)方程/ 拟牛顿方程 其中H(k+1)=(B(k+1))-1. 拟牛顿法－曲