第三章 非线性系统的优化 第五节.ppt

第三章 非线性系统的优化 第五节 一维搜索 什么是一维搜索？ 我们在解析几何中知道，在n维空间 ，过一个定点 ，且与给定方向P平行的直线L的方程为 X= ＋ tP，t （－∞，＋∞） 对函数f（x），若想求它在直线l上的极小点，则实质上是求一元函数 　 （t）=f（ ＋tP），t （－∞，＋∞） 的极小点。我们把这步工作就叫做一维搜索，也叫做直线搜索。 大多数的非线性规划算法可以归结为一个基本的格式：从某个初始点 出发，沿某个适当选择的方向（通常是目标函数的下降方向） 进行一维搜索，得到目标值较小的点 ；再从 出发，沿 选择的方向 进行一维搜索，得到目标函数值更小的点 ， ，如此重复进行，产生一个点列 ｛ ｝，在适当的条件下，可趋于极小点X*。 在大多数非线性规划算法中，主要的工作其实就是两点：一是寻找适当的搜索（前进）方向，二是进行一维搜索。 ※一维搜索是非线性规划算法的基础。 ＃一维搜索的基本知识 【搜索区间】 定义：设 （t）是一元函数，t*是 （t）的一个（局 部）极小点,［a,b］是包含t*的一个区间，则称该 区间是函数 （t）的极小点t*的一个搜索区间，也称为不定区间。 【单谷函数】 定义：设 （t）是定义在区间L上的一元函数，t*是 （t）在L上的全局极小点。如果在L上去任意两个点 ＜ ，当 ≤ t* 时，必有 （ ）＞ （ ）；而当 ≥ t* 时，必有 （ ） ＜ （ ），则称 （t）是L上的一个单谷函数，或称为下单峰函数。 ※搜索区间的中点 与极小点t*的最大误差不超过该 搜索区间长度的一半。 搜索区间越短，误差就越小。 【缩短搜索区间的基本原理】 设 是单谷函数 （t）的一个已知搜索区间，在 中任取两点 ＜ ，那么有： 若 （ ）＜ （ ）,则搜索区间可缩短为 。 若 （ ）≥ （ ），则搜索区间可缩短为 。 ◎在确定单谷函数极小点的初始搜索区间时，可以根据实际情况利用进退算法确定。 【进退算法的基本步骤】 1.首先任选一个初试点 ,初始步长h，进到 ＋h， 并计算 点及 ＋h点的函数值。 2.若 ＋h点的函数值下降，继续前进，直到某个 点的函数值回升，则 就是一个搜索区间， 算法停止。 3.若 ＋h点的函数值上升，则从 点退到 －h点。 4.若 －h点函数值也比 点函数值上升，则 就是一个搜索区间，算法停止。 5.若 －h点函数值比 点函数值下降，则继续后退，直到某个 点的函数值回升，则 是一个搜索区间，算法停止。 图3.5.1是利用进退算法求一元函数 (t)的初始搜索区间［a，b］的流程图． Fibonacci算法 【Fibonacci法原理】 设［a，b］是单函数 （t）的一个初始搜索区间。 通过不断在当前搜索区间插入观测点，计算并比较观测点的函数值，可以把搜索区间的长度不断缩短，直到满足要求为止。 如何在插入最少点的情况下，最大限度的缩短搜索区间。 如果把插入n个点后可以缩短为单位1长度的区间的最大长度记为Fn，那么显然有： 1.F0＝F1＝1 2.设在区间［a，b］中插入两点a1＜b1，则缩短后的区间或为［a，b1］，或为［a1，b］ 　欲使缩短后的区间长度为1，则必有： b-a≤ (b1－a)+(b－a1) ≤2 因此 F2=max｛b－a｝≤2 而当b－a＝2时，缩短后的区间长度可达1＋ε。 令ε→0，则可使缩短后的区间长度变为1，所 以又有 F2≥b－a＝2 所以 F2＝2 F2＝F1＋F0 一般，下面的递推关系恒成立： Fn＝Fn-1＋Fn-2 利用上面的结论，可以很方便的写出Fn，