运筹学-非线性规划(二)(名校讲义).pptVIP

第二十二讲 非线性规划（二） §1 一维最优化方法 §2 多维无约束寻优方法（使用导数） §1 一维最优化方法 （1） 目前常用的一些方法有： ·斐波那契（?Fibonacci）法——序贯试验法 ·黄金分割法（0.618法） ·牛顿切线法 ·抛物线逼近法 ·成功与失败试探法 下面将着重介绍斐波那契与黄金分割法的主要思路及步骤。 §1 一维最优化方法 （2） 一、斐波那契法与黄金分割法的基本思路 1．非线性规性的所有求解方法在理论上都是寻找出局部极值点，即所搜寻区域是单峰函数。当然，作为一维搜索方法的斐波那契法与黄金分割法亦不例外。然而，这两种方法的寻优途径不是直接找出最优点，而是不断缩小最优点所处区域，直到符合精度为止。这两种方法的主要特点为： ①适于单峰（谷）函数； ②压缩峰（谷）点所处的区域。 §1 一维最优化方法 （3） 现在分析该法是如何进行寻优的：设已知单峰函数f(t)的峰点t*（最小点）处在t=[a，b]区间（见图4-3a） 在区间[a，b]中，任取两点a1、b1且a1b1，并计算f(a1)和f(b1)，则可出现下列结果： 1）f(a1)f(b1)，则 t*必在区间[a，b1]，如图4-3中(a)所示。 2）f(a1)≥f(b1)，则t*必在[a1，b]中。如图4-3 (b)所示。 §1 一维最优化方法 （4） 0 a b2 t* a1 b1 b t f(t) (a) 0 a a1 t* b1 b t 图4-3 f(t) f(t) f(t) (b) 可见，只要在[a，b]内任取两点，就必能把t*压缩在区间[a，b1]或[a1，b]内。若要继续缩小区间，只需再计算1个点，又可缩短一部分区间长度。 §1 一维最优化方法 （5） 例如，如果已知t*在[a，b1]内，由于a1已在[a，b1]中，故只需取一点计算。假定取为b2，则计算f(b2),并与已计算过的f(a1)比较，又可确定出t*在[a，a1]或者在[b2，b1]中，具体见图4-3中的(a)。这样反复进行，直到把区间缩小到一定精度为止。 从上述分析知，包含t*的区间缩小率与计算函数值次数及取点技巧有关。现问，采用最佳取点法，计算函数值n次，能把多大区间缩短为1呢？令Fn表示计算n个函数值后能缩短为1的最大原区间长度，则知 F0=F1=1（不计算或计算一点不能把原区间缩短，参见图4-3，开始只算一点a1或b1，都不能压缩原区间）。 §1 一维最优化方法 （6） F2=2（a1、b1取在中间点附近，可近似缩短一半，故把新 区间作为1，则原区间为2）。 同理可得，F3=3，F4=5，… 经分析，知序列{Fn}符合递推公式 Fn=Fn－1+Fn－2 (n≥2) 计算点数n与原区间长度（令新区间为1时）Fn的关系可 示于表4-1中。 §1 一维最优化方法 （7） Fn又称为斐波那契常数，其含义是经过n次计算后，区间 缩短率为1/Fn，采用斐波那契常数进行一维寻优称为斐波 那契法。用该法寻优收敛快。计算次数少，然而每步取 点繁琐，且各步缩短率不同。为此，引出黄金分割法。 表4-1 n 0 1 2 3 4 5 … Fn 1 1 2 3 5 8 … §1 一维最优化方法 （8） 黄金分割法与斐波那契法思路完全相同，仅仅是在区间内的取点方式简单化，现不加推导的引出该法的区间内取点规则。 设原区间为[a0，b0]，中间取两点为a1，b1（见图4-4） 0 0.382 0.618 1 a0 b2 a1 b1 b0 图4-4 §1 一维最优化方法 （9） 令线段 即 ，若经计算f(a1)与f(b1)后，知 f(a1)f(b1)，则保留[a0，b1]区间。此时 即a1在新区间地位等同于目前b1在原区间地位，于是在新 区间[a0，b1]中只需取点b2，使 ，便又可 进行下一步计算。该法每迭代一次，使区间缩小到原来 的0.618倍，故又称0.618法。 §1 一维最优化方法 （10） 二、其它有关方法概述 1．牛顿切线法 2．抛物线拟合法 3．成功与失败试探法 §2 多维无约束寻优方法（使用导数） （1） 无约束极值问题可简单表述为： min f(X)，X?En　　（n维欧氏空间） X(k+1)=X(k)+?p(k)且满足 f[X(k+1)]f[X(k)] 这样逐步迭