华中农业大学现代设计方法 .pptxVIP

§2.3 一维搜索方法 一维搜索的数学形式 一维搜索的几何意义 常用一维搜索方法：进退法 黄金分割法 二次插值法;一、概述 在数值迭代方法中，任一次迭代，总是从某个已知点 出发，沿着给定的方向 （用梯度法确定方向）搜索到目标函数的极小值点 ，这个过程称为一维搜索。 一维搜索法是构成非线性优化方法的基本算法，因为多元函数的迭代解法都可归结为在一系列逐步产生的下降方向上的一维搜索。 ;对“一维”的理解;1.一维搜索的数学形式 在任一次迭代中， 使得 即 也就是说，一维搜索的每一次迭代过程都是寻找合适的步长因子 ，使得所得到的下一个点 的函数值是该方向上所有可能点中最小的。 ;2.一维搜索的几何意义 从 出发，沿方向 一维搜索，就是求方向 与等值线的切点，此时的步长因子即为最优步长因子。;3.单峰区间 对于所有的一维优化方法，首先遇到的共同问题是：; 用解析方法给单峰区间下个定义：设函数f(x)在区间 内有定义，且 ①在区间 内存在极小点 ，即有 ②对区间 上的任意自变量x，有 对区间 上的任意自变量x，有 则称闭区间 为函数f(x)的单峰区间。 ;单峰区间的特点： 在单峰区间内，在极小点 的左边，函数是严格减少 的，在 的右边，函数是严格增加的； 如果区间 是一个单峰区间，x是区间内的一点，则 两个不等式中必有一个成立； 函数的函数值在单峰区间具有高—低—高的特征，我们 用这一特征来确定初始的搜索区间。;讨论： 如果函数f（x）在区间[a,b]上有多个极值点，则称为多峰函数。 对于多峰函数f(x)，只要适当划分区间，也可以使该函数f(x)在每一个子区间上是单峰的。 ;4.一维搜索的基本思想 一维搜索就是要在初始单峰区间中求单峰函数的极小点。所以找初始单峰区间是一维搜索的第一步。 然后将初始单峰区间逐步缩小，直至极小点存在的范围小于给定的一个正数 ，此 称为收敛精度或迭代精度。此时，如区间为 ，即有 可取该区间的中点作为极小点 ;(1)如果 ，则缩小的区间为;(3)如果 ，则缩小的区间为 ;二、常用的一维搜索方法 最优步长 可通过求单变量函数 的极小点来获得，即 。这种在第k次迭代中求最优步长 的过程，就是一维搜索过程，所用的方法就是一维优化方法。 一维优化方法很多，介绍确定初始区间的进退法、黄金分割法和二次插值法。;1.确定初始区间的进退法 (1)确定单峰区间的进退算法 进退算法的基本思路： 对单峰函数 任选一个初始点 及初始步长h，由此可确定两点。通过比较这两点函数值的大小，来决定第三点的位置，确定它们是否为“高－低－高”形态，如是，则说明已找到单峰区间，否则向前或向后继续寻求下一点，直到三点函数值形成“高－低－高”形态。; 设有一维函数f(x)，给定初始点x0,初始步长h ，求初始搜索区间 的步骤如下： 第一步 给定初始点x0，初始步长h，令 比较 ，此时有三种情况： ①如果 ，说明极小点 必在 的右方，应向右(前进)搜索，加大步长，令 转步骤二； ②如果 ，说明极小点 必在 的左边，应向左（后退）搜索，交换 的值并令 ，转步骤二； （交换后仍然是 ） ; ③如果 ，说明极小点 必在点 和 之间，本身就是“高－低－高”的形态，也就是说已经找到单峰区间 。 第二步 取下一个计算点 ，计算 ； 第三步 比较 的大小，这个时候可能有二种情况： ①如果 ，则 已经形成了“高－低－高”的形态，初始单峰区间已经找到，当 时，输出初始单