04第三章 第四节一维搜索.pdfVIP

§3.4 一维搜索 一、基本概念 二、一维搜索原理 三、 “成功-失败”法 四、斐波那契法（Fibonacci ）与黄金 分割法（0.618法） 五、切线法（牛顿法） 一、基本概念 (一)一维搜索法 ： 求解一元非线性函数的极小点（或极大点），若不可能用解析 法求解时，经常使用直接迭代法，即通过若干搜索，逐步接近 极点 。 常用的一维搜索法： 斐波那契法（分数法） 黄金分割法（0.618法） 插值法（抛物线法） 切线法（牛顿法）等等 （二）收敛速度 (k) (k) 设算法产生点列{x }, 收敛到解x *,且x ≠x *， k， || x (k 1) x * || 1. 线性收敛： (k ) * 1 当k充分大时 || x x || 成立。 2. 超线性收敛： || x (k 1) x * || lim 0 k  || x (k ) x * || 3. 二阶收敛：   ﹥0，是使当k充分大时有 || x (k 1) x * ||  || x (k ) x * ||2 （三）计算精度  若f(x) 不可微 | f (x (k ) f (x (k 1) ) | 0 绝对误差： 相对误差: | f (x (k ) f (x (k 1) ) |   0 f (x (k 1) ) 若f(x) 可微、凸函数 梯度的模数：|| f (x (k ) ) || 0 || f (x (k ) ) || f 2 (x ) f 2 (x ) f 2 (x ) f 2 (x ) 1 2 3 n （四）下降算法模型 考虑 minf(x) s.t. x ∈S 常用一种线性搜索的方式来求解：迭代中从一点出发沿下降可 行方向找一个新的、性质有改善的点。 △下降方向 ： _ 设 ∈S ，d ∈E n,d≠0, 若存在 ，使   0 _ x _ _ f (xd ) f (x),  (0,) 称d 为在 点的下降方向。 x _ n   0 △可行方向