03 一维搜索方法.pptVIP

* 第三章 一维优化方法 * 数值迭代算法的过程可表示为： 当搜索方向一定后，目标函数成为λk的一元函数，即在直 线上求函数的极小点，这种运算过程称为一维搜索，或线性搜 索(Linear Search)。 一维优化问题是基础，大多数多维问题可以是一系列一维 问题的搜索。 一维优化方法可分为两类：直接法和解析法 * 3.1 确定初始区间的进退法 首先保证搜索区间函数具有单峰性，也就是在区间 [a, b]中，函数是凸函数，具有高—低—高或低—高— 低的特性，在区间[a, b]上有惟一的极小值或极大值。 1.基本思想 * 2.程序流程图 初始步长h取的过大，有可能出现不收敛的情况，初始步长值一般应给出较小的值，如取收敛精度的10倍左右。 * 3.2 黄金分割法(Golden Section Method) 1.基本思想 黄金分割法是通过不断缩短单峰区间的长度来搜索 极小点的一种有效方法，它是搜索区间按比例缩小， 通过计算和比较函数值，以确定取舍区间，因按黄 金分割原理，故此法又称0.618法。 区间变化图: * 黄金分割比例λ=0.618 黄金比例应用广泛 2.迭代公式及迭代过程 c=a+0.382(b-a) d=a+0.618(b-a) 终止条件： (b-a)≤e x*=(a+b)/2 f(c)f(d) f(c)≥f(d) * 3.程序流程图 * 3.3 牛顿法 (Newton’s Method) 一.基本思想 牛顿法在一维探索中的应用，是用切线代替弧逐渐 逼近函数根值的方法。当目标函数f (x)有一阶连续导 数且二阶导数大于零时，在曲线y= f’ (x)上作一系列 切线，使之与x轴的交点x(0), x(1), x(3), … ,逐渐趋 于f’ (x)=0的根。 * 二.迭代公式 三.程序流程图 四.特点 1.牛顿法的优点是收敛快， 尤其在开始的时候。 2.需计算函数的一阶、二 阶导数，因而增加了每次迭代 的工作量。 3.另外,要求初始点选择不 能离极值点太“远”。 * 3.4 二次插值法 (Quadratic Interpolation Method) 一.基本思想 插值法是多项式逼近法的一种。是利用目标函数在若干点的 信息（包括函数值、导数值等），构成一个与原目标函数值相 接近的低次插值多项式，然后用该多项式的最优解作为函数的 近似最优解，随着区间的逐次缩短，多项式函数的最优点与原 函数的最优点之间的距离渐减小，直到满足一定的精度要求时 迭代终止。 二、二次插值法的公式推导 二次插值法是用区间[a, b]上的三个点的函数值构成二次多 项式去逼近原函数，如果函数性态接近抛物线，能够比较快的 收敛，也称抛物线法。 * 目标函数在三个点x1, x2, x3的函数值为f1, f2, f3满足 x1x2 x3, f1f2 f3 利用x1, x2, x3三点作二次多项式 p(x)=a0+a1x+a2x2 式中, a0,a1,a2为待定系数。 * 插值多项式p(x) 的极值点满足 p ′(x)=a1+2 a2x=0 可求得极小点 代入a1,a2可得到 三、迭代过程及程序框图 四、其它插值法 元代朱世杰的插值公式： f(n)=n△+n(n-1)△2+n(n-1)(n-2)△3+n(n-1)(n-2)(n-3)△4+… * 五、一维搜索方法的比较 牛顿法收敛快,但要求其一阶、二阶导数,对初始点的选择要 求较高;二次插值法充分利用了函数的性态,如目标函数本身就 具有良好的性质(如二次，三次曲线等)能够很快的收敛,但可 靠性必不如0.618法;0.618法完全是数值计算,不考虑函数的性 态,不用求导数,但收敛较慢。 * 现代设计方法 * 现代设计方法 现代设计方法 现代设计方法 *