第3章 无约束最优化方法 - 副本.pptVIP

* 武汉理工大学 能源与动力工程学院 优化设计应用课件 无约束最优化方法是基于古典极值理论的一种数值迭代方法，主要是用来求解非线性规划问题。 第三章 无约束最优化方法 迭代法的基本思想就是在设计空间中选定一个初始的估计点，这一点称为初始点。从这一点出发，我们计算一系列的点Xk（k=1,2,……），并希望这个点列{Xk}的极限就是目标函数的极小点。在设计空间中，点Xk 与点Xk+1的差是一个向量，而一个向量总是可以用其方向和长度来确定的。假设其方向用Sk表示，长度用ak表示，则可以写成如下形式： ak为一标量，称为搜索步长。 Sk为一矢量，称为搜索方向。 第1节 迭代法的描述 从X0出发，沿用参数优化方法确定的一个使目标函数值下降的方向S0跨出一个步长为a0的距离，找到一个新点X1：（要在可行域内） 迭代终止准则一： 第2节 如何判断收敛?(停机准则) 迭代终止准则二： 迭代终止准则三： 第3节 常用的一维搜索方法 如何确定迭代过程中的最优搜索步长 ? 步长的选择：搜索方向确定后，求步长实际上是一个一维优化问题。 对于下单峰函数，其搜索区间[a, b]应满足如下条件： f(a) f(ak*) f(b) 所谓确定搜索区间就是找满足上述条件的[a, b]。 搜索区间 搜索区间的确定 在ak的定义域上任取a、b，以及一个初始步长Dh，且b=a+Dh，若满足 f(a) f(b) 1) 则判断下式是否成立？ f(b) f(b + 2Dh ) 2) 若成立，则搜索区间就是[a, b+2Dh]，否则令b=b+2Dh，Dh=2Dh，重复判断式2)是否成立，否则继续加倍步长，直到满足为止。这叫做前进计算。 搜索区间 搜索区间的确定-前进计算 在ak的定义域上任取a、b，以及一个初始步长Dh，且b=a+Dh，若满足 f(a) f(b) 1) 则判断下式是否成立？ f(a-2Dh ) f(a ) 2) 若成立，则搜索区间就是[a-2Dh, b]，否则令a=a-2Dh，Dh=2Dh，重复判断式2)是否成立，否则继续加倍步长，直到满足为止。这叫做后退计算。 搜索区间 搜索区间的确定-后退计算 程序流程图 End 搜索区间 Yes No Yes No Yes No 输出a, b 常用一维搜索算法 进退法 黄金分割法(0.618法) 斐波那契法 进退法 方法:先从某一个初始点x0出发，以h为初始步长，如果f(x0)f(x0+h),即沿x增加方向，f(x)下降，则搜索成功，否则失败。 要点：成功则大步前进，失败则小步后退。 设从x0开始，以h为步长搜索一次，若成功，即f(x0)f(x0+h),下一次以x0+h为起点，以2h为步长，即大步前进。若从x0的第一次搜索失败，即f(x0)≤f(x0+h)，应退回到x0，以-h/4为步长，即改变搜索方向，即小步后退。 步骤：在任何点处（开始为x0点，一般为xk点），先前进，若f(x)下降则步长加倍前进；若不下降，则步长减半后退。后退成功则步长加倍后退，后退失败，则步长减半前进。 “减半”：对加倍前的步长是减半，对加倍后的步长是1/4倍。 “进退法”具体迭代步骤框图 停 是 是 否 否 进退法 “进退法”运行程序 用成功失败法求 #include stdafx.h #include stdio.h #include math.h #define F(x) ((x)*(x)*(x)*(x)-5*(x)*(x)*(x)+4*(x)*(x)-6*(x)+60) void main() { double h=0.1,x,y1,y2, eps=1e-12; /*eps表示精度*/ printf(请输入起始点x=); scanf(%lf,x); printf(请输入初始步长h=); scanf(%lf,h); int i = 0; 请输入起始点x=10 请输入起始步长h=2 x=3.279633,y=22.659008 运行结果 程序运行 0.618法(黄金分割法) a0 b0 a1 a2 若f(a1) f(a2)，则说明ak*必在[a0, a2]，则可以截去[a2, b0]这段。此时，有 说明在新区间[a0, a2]内，a1仍为黄金分割点。 0.618法(黄金分割法) a0 b0