第2章 线性搜索.pptVIP

第二章 最优化理论与方法 在多变量函数最优化中，迭代格式为： 线性搜索问题要求： 确定步长的方法有精确线性搜索法（包括直接搜索法、插值法）和不精确线性搜索法等几类。各类方法具有各自不同的特色。 线性搜索的主要结构如下：首先确定包含问题是最优解的搜索区间，再采用某种分割技术或者插值方法缩小这个搜索区间，进行搜索求解。 第二章 最优化理论与方法 第2.1节 精确线性搜索法概述 第2.2节 搜索区间的确定 第2.3节 0.618法（黄金分割法） 第2.4节 逐次插值逼近法 第2.5节 不精确线性搜索 第2.6节 线性搜索的收敛性 第2.1节 精确线性搜索概述 对于给定的搜索方向 ，如果要求选择步长 ，使得 一般获得 沿着 的最大下降量，则称这样的线性搜索为最优线性搜索或者精确线性搜索， 叫做最优步长。 第2.2节 搜索区间的确定 [定义2.1]设 是一元函数，区间[a,b]，若存在 ，使得 在 上严格递减，在 上严格递增，则称[a,b]是函数 的单峰区间， 是[a,b]上的单峰函数。 [定义2.1’] 设 是一元函数， ，若存在唯一的 ，使得对于任何 ，有： 若 ，则 ； 若 ，则 ； 则称 是 上的单峰函数。 第2.2节 搜索区间的确定 进退法的基本思想：假定 是一个连续函数，逐步确定三点 ，使得 满足 ，则在区间 中必有 的一个极小点，我们便取 为搜索区间。 然后，在区间 中任取两点 ，且 ，则： 若 ，则得到新的搜索区间 ； 若 ，则得到新的搜索区间 ； 第2.2节 搜索区间的确定 [算法2.2]（进退法） （1）选取初始点 ，初始步长h，加倍系数 （ 一般取 ）； （2）计算 ， ； （3）比较函数值 和 。 若 （搜索成功），则令 ； 若 （搜索失败），则令 ， ； （4） ，计算 ； 若 ，则（加大搜索步长，）令 ，重复本步； （5）停止迭代，令 ， ，。 第2.3节 0.618法（黄金分割法） 0.618法（黄金分割法）是一种分割方法，即基本思想是通过取试探点和进行函数值的比较，是包含极小点的搜索区间不断缩短，当区间长度缩短到一定程度时，区间上各点的函数值均接近极小值，从而各点可以看作是极小点的近似。这类方法仅需计算函数值，用途很广，尤其适用于非光滑及导数表达式复杂或写