第一章 最优化问题概述-最优化方法课件.pptVIP

* 用0.618法求解例1.4.1的数据表 迭代次数 [a,b] x1 x2 f1 f2 |b-a|e 0 [-1,3] 0.528 1.472 1.751 2.695 否 1 [-1,1.472] -0.056 0.528 2.059 1.751 否 2 [-0.056,1.472] 0.528 0.888 1.751 1.901 否 3 [-0.056,0.888] 0.305 0.528 1.788 1.751 否 4 [0.305,0.888] 0.528 0.665 1.751 1.777 否 5 [0.305,0.665] 0.443 0.528 1.753 1.751 否 6 [0.443,0.665] 0.528 0.580 1.751 1.757 是 最优解x*=(0.443+0.665)/2=0.554 * 0.618法和Fibonacci之间的关系 0.618法为Fibonacci法的极限形式. * 0.618法和Fibonacci之间的关系 迭代步数的比较 0.618法: Fibonacci方法: 忽略 得到 黄金分割法至多比Fibonacci法多一步 * 进退法(寻找下单峰区间) 在一维搜索之前,必须先知道一个f(x)的下单峰区间.书中的算法1.4.3给出了求函数的一般的下单峰区间的算法.此处我们对算法1.4.3加以改进,求出f(x)的一个形如[0,b]形式的下单峰区间 因为我们关心的问题是: 我们的目的是找出两个点x1x2,使得 f(x1)≤f(x2),f(x1) ≤ f(0). * 进退法(寻找下单峰区间) 给定初始点x0=0,初始步长Dx0,x1=x0+Dx. x0 下面分两种情况讨论. (1)f(x1)≤f(x0) x1对应着图上用红线标出的一部分 * 进退法(寻找下单峰区间) x0 (1)f(x1)≤f(x0) 此时x1取值小,我们加大步长向右搜索,取Dx=2Dx,x2=x1+Dx 若f(x1)≤f(x2),则我们要找的区间即为[x0,x2] x1 x2 Dx 2Dx * 进退法(寻找下单峰区间) x0 (1)f(x1)≤f(x0) 若f(x1)f(x2),则我们所取的步长偏小. 令x1=x2, Dx=2Dx,x2=x1+Dx 继续往下判断,直到满足f(x1)≤f(x2). x1 x2 Dx 2Dx x1 x2 * 进退法(寻找下单峰区间) x0 (2)f(x1)f(x0) 此时x1取值大,我们缩小步长向x1左边搜索,取Dx=Dx/2, x2=x1 , x1=x2 - Dx 若f(x1)≤f(x0),则我们要找的区间即为[x0,x2] 否则继续缩小区间,直到满足f(x1)≤f(x0). x1 x2 x1 * 1.4.2 二分法 若f(x)的导数存在且容易计算,则线性搜索的速多可以得到提高,下面的二分法每次将区间缩小至原来的二分之一. 设f(x)为下单峰函数,若f(x)在[a,b]具有连续的一阶导数,且f ’(a)0, f ’(b)0 取 c=(a+b)/2,若f’(c)=0,则c为极小点; 若f ’(c)0,则以[a,c]代替[a,b]作为新区间; 若f ’(c)0,则以[b,c]代替[a,b]作为新区间. * 1.4.3 抛物线法 在求一元函数的极小点问题上,我们可以利用若干点处的函数值来构造一个多项式,用这个多项式的极小点作为原来函数极小点的近似值. 抛物线法就是一个用二次函数来逼近f(x)的方法,这也是我们常说的二次插值法. 设在已知的三点x1x0x2处对应的函数值f(xi)=fi,且满足：f1f0, f0f2 过三点(x1,f1),(x0,f0),(x2,f2)作二次函数y=j(x),即作一条抛物线,则可推导出： * 为求j(x)的极小点,令j’(x)=0,得: * 若 充分接近 ,即对于预先给定的精度 , 有 ,则把 作为近似极小点. 否则计算 ,找出 和 之间的大者,去掉 或 ,使新的三点仍具有两端点的函数值大于中间点的函数值的性质.利用新的点再构造二次函数,继续进行迭代. * 1.4.4 不精确的一维搜索 前面介绍的得几种一维搜索方法,都是为了获得一元函数f(x)的最优解,所以习惯上称为精确一维搜索. 在解非线性规划问题中,一维搜索一般很难得到真正的精确值. 因此,不精确的一维搜索开始为人们所重视. 即在xk点确定了下降方向pk后,只计算少量的几个函数就可得到一个满足f(xk+1)f(xk)的近似点xk+1. * 不精确的一维搜索 对于不精确的一维搜索,要求产生的点列具有某种收敛性.所以除了对下降方向pk有