牛顿迭代法教材课程.ppt

牛顿迭代法 1.背景 一维搜索：本身可以用来解决科学和实践中的许多一维最优化问题,但它更多的是作为一种加速算法收敛的手段,用来与多维优化方法相结合以求解众多的多维优化问题。 精确一维搜索 不精确一维搜索 基本思想：将非线性方程线性化，以线性方程的解逼近非线性方程的解。 原理：取 x0 ? x*，将 f (x) 在 x0 处做一阶Taylor展开: ? 在 x0 和 x 之间，取 ，可将 (x* ? x0)2 看成高阶 小量，则有： 2.基本思想与原理 x y x* x0 只要 f ?C1，每一步迭代都有 而且 ，则 x*就是 f 的根。 是如下线性方程的根！ 这个是个什么约束呢？ 3.几何解释 方程 的根 在几何上是曲线 x轴的交点的横坐标。若 是根 的一个近似，过曲线上横坐标为 的点 作曲线 的切线，则该切线与 x 轴交点的横坐标即为 。 其中 ，则 收敛 由泰勒展开： 在单根附近收敛快！ ? 只要 ，则令 可得结论。 证明： 牛顿迭代法事实上是一种特殊的不动点迭代 在 和 之间 3.牛顿迭代法的改进 ? 重根 Q1: 若　　　 ，牛顿迭代法是否仍收敛？ 设 x* 是 f 的 n 重根，则： 且 。 因为牛顿迭代法事实上是一种特殊的不动点迭代， 其中 ，则 A1: 有局部收敛性，但重数 n 越高，收敛越慢。 Q2: 如何加速重根的收敛？ A2: 根的重数已知，可将 f 的重根转化为另一函数的单根。 令　　　　　，则 f 的重根是 ? 的单根，且