lbc-第3章一维搜索方法2012.pptVIP

第三章???一维搜索方法 §3.1 概述 §3.2 搜索区间的确定 §3.3 一维搜索试探方法 §3.4 一维搜索插值方法（二次插值） * * §3.1 概述 §3.2 搜索区间的确定与区间 消去法原理 §3.3 一维搜索的试探方法 §3.4 一维搜索的插值方法 一。引言: 一元函数f(x)的优化问题，实质上就是求f(x)的极值问题，也就是寻求单变量x的某个值x*，使f(x*)达到最大值的问题。因为这类问题只需要在一维空间内搜索f(x)的极值点，所以称为一维搜索。 虽然在工程实际中，优化目标函数大都是多元函数，但在多元函数优化过程中，需要反复多次使用沿着某个方向的一维搜索。 多元函数的优化，在n维空间，沿某一方向s进行搜索，广义的一维搜索。 一维搜索是最简单的，也是应用最频繁的基本方法。 二。定义 在第k次迭代时，从已知点 x(k)出发，沿给定方向S(k)求最优步长因子α(k)，使 f (x(k) + α S(k) )达到最小值的过程，称为一维搜索。 其中 为第次迭代的搜索方向 为沿 搜索的最佳步长（因子） 当方向 给定，求最佳步长 就是求下列一元函数的极值问题 f (x (k+1) ) = min. f (x (k) + α S (k) ) = f (x (k) + α(k) S ( k) ) 对α求导，令其为零。 ④ 求得最优步长因子： 三。方法 1. 解析法： ① f(X(k) + αS(k) ) 沿S(k) 方向的 x(k) 台劳展开； ② 取二次近似： 2.数值迭代法： 直接法——应用序列消去原理： 分数法、黄金分割法 数值法——利用多项式函数逼近（曲线拟合）原理： 二次插值法、 三次插值法 单谷（峰）区间： 为了确定极小点所在的区间,应使函数在区间里形成“高—低—高”趋势。 在区间 [a，b ]内，函数只有 一. 搜索区间的确定： f (α) α b α2 α* a 0 一个谷（峰）值，则此区间为单峰区间。单峰区间内，一定存在一点α*， 当任意一点α＞α*时，f(α)＞f(α*)，当α＜α*时， 仍有f (α )＞ f(α*) ，则α*是最优点，也即为最优步长因子α* α(k)。 α1 单谷（峰）区间内，函数可以有不可微点，也可以是不连续函数； f (α) 0 a b α 0 α f (α) b a 确定的搜索区间必定是一个含有最优点α*的单峰区间。 说明： 2. 初始区间得进退法 从α=0开始，以初始步长h0向前试探。如果函数值上升，则步长变号，即改变试探方向；如果函数值下降，则维持原来的试探方向，并将步长加倍。区间的始点，中间点依次沿试探方向移动一步。此过程一直进行到函数值再次上升时为止，即可找到搜索区间的终点。最后得到的三点即为搜索区间的始点，中间点和终点，形成函数值的“高—低—高”趋势。 （1） 前进运算： （2）倒退算法： （3）程序设计： α1＝0，h=h0 α2 =h、y2=f(α2 ) 给定y1、h0 y2 y1 y3 y2 是 h=2h α3=α2+h、y3=f(α3) 结束 否 h=-h α3=α1，y3=y1 a=α1、b=α3 是 α1=x2，y1=y2 α2=x3，y2=y3 否 正向搜索 反向搜索 二.区间消去原理： 一。黄金分割与0.618 b d 古希腊建筑师认为：边长为 b，d 的矩形建筑物，若边长能符合以下条件，则最美观： 欧几里德几何称这种边长分割为黄金分割。 黄金分割法适用于区间上的任何单谷函数求极小值问题，它是建立在区间消去法原理基础上的试探方法，即在搜索区间内适当插入两点，将区间分成三段。 应用函数的单谷性质，通过函数值大小的比较，删去其中一段，使搜索区间得以缩短，然后再在保留下来的区间上作同样的处理，如此迭代下去，使搜索区间无限缩小，从而得到极小点的数值近似解。 二。黄金分割的要求 插入点的位置相对于区间两端点具有对称性，即： 在保留下来的区间内再插入一点所行成的区间新三段，与原来区间的三段具有相同的比例分布 三。黄金分割法搜索过程（0.618） f (α) α b α2 α* a 0 α1 α21 α22 1. 基本原理： 步骤： 3.二次插值