非线性最优化问题的一种混合解法论文.docVIP

　　非线性最优化问题的一种混合解法论文 摘 要：把BFGS方法与混沌优化方法相结合，基于混沌变量提出一种求解具有变量边界约束非线性最优化问题的混合优化方法。混合算法兼顾了混沌优化全局搜索能力强和BFGS方法收敛速度快的优点，成为一种求解非凸优化问题全局最优的有效方法。算例表明，当混沌搜索的次数达到一定数量时，混合优化方法可以保证算法收敛到全局最优解，且计算效率比混沌优化方法有很大提高。 关键词：混合法；BFGS方法；混沌优化方法；全局最优 1 引言 在系统工程、控制工程、统计学、反问题优化求解等领域中，很多问题是具有非凸性的。对此普通的优化技术只能求出局部最优解，因为这些确定性算法总是解得最近的一个极值点1.freelin (1) 混沌是存在于非线性系统中的一种较为普遍的现象。混沌运动宏观上无序无律，具有内随机性、非周期性和局部不稳定性，微观上有序有律，并不是完全的随机运动，具有无穷嵌套的自相似几何结构、存在普适性规律，并不是杂乱无章的。利用混沌变量的随机性、遍历性和规律性特点可以进行优化搜索5，且混沌优化方法容易跳出局部最优点。但是某些状态需要很长时间才能达到，如果最优值在这些状态时，计算时间势必很长5。可以说混沌优化具有全局搜索能力，其局部搜索能力稍显不足，文5采用二次载波技术，文6考虑逐渐缩小寻优变量的搜索空间都是为了弥补这一弱点。而本文则采用混沌搜索与BFGS方法进行优化求解，一方面采用混沌搜索帮助BFGS方法跳出局部最优，另一方面利用BFGS增强解附近的超线性收敛速度和搜索能力，以提高搜索最优的效率。 2 混沌－BFGS混合优化方法 2.1 BFGS方法 作为求解无约束最优化问题的拟牛顿方法类最有代表性的算法之一，BFGS方法处理凸非线性规划问题，以其完善的数学理论基础、采用不精确线性搜索时的超线性收敛性和处理实际问题有效性，受到人们的重视7-9。拟牛顿方法使用了二阶导数信息，但是并不直接计算函数的Hesse矩阵，而是采用一阶梯度信息 来构造一系列的正定矩阵 来逼近Hesse矩阵 。BFGS方法求解无约束优化问题min ( )的主要步骤如下： (1) 给变量赋初值x0，变量维数n和BFGS方法收敛精度ε，令B0=I（单位阵），k=0，计算 在点x0的梯度g0。 (2) 取sk=-Bk-1gk，沿sk作一维搜索，确定最优步长αk， ，得新点xk+1=xk+αksk，计算xk+1点的梯度gk+1。 (3) 若||gk+1||≤ε，则令 ， ，BFGS搜索结束，转步骤3；否则执行(4)。 (4) 计算Bk+1： (2) (3) (5) k=k+1，转(2)。 2.2 混沌优化方法 利用混沌搜索求解问题(1)时，先建立待求变量 与混沌变量 的一一对应关系，本文采用 。然后,由Logistic映射式(4)产生 个轨迹不同的混沌变量 （ ）进行优化搜索，式(4)中 =4。已经证明， =4是“单片”混沌， 在0,1之间历遍。 (4) (1)给定最大混沌变量运动次数M；给 赋初值 ，计算 和 ；置 ， 。 (2) 。 (3) 。 (4) 若k M， 若 ，令 ， ； 若 ， 和 保持不变； 然后令k=k+1， ，转(2)。 若k M，则 ， ，混沌搜索结束。 2.3 混合优化方法 混沌方法和BFGS方法混合求解连续对象的全局极小值优化问题(1)的步骤如下： step1 设置混沌搜索的最大次数M，迭代步数iter=0，变量赋初值x0， 。 step2 以 为始点BFGS搜索，得当前BFGS方法最优解 及 = 。 step3 若 ，取 = ；若 ，取 ；若 ，取 ， 是相对于 , 较小的数。 step 4 以 为始点进行混沌搜索M次，得混沌搜索后的最优解 及 = 。 step5 若 ，iter=iter+1， ，转step2；否则执行step6。 step6 改变混沌搜索轨迹，再次进行混沌搜索，即给 加微小扰动 ，执行step 4，得搜索结果 和 。若 ，iter=iter+1， ，转step2；否则计算结束，输出 、 。 对全局极大值问题，max ，可以转化为求解全局极小问题min 。 混合算法中混沌搜索的作用是大范围宏观搜索，使得算法具有全局寻优性能。而BFGS搜索的作用是局部地、细致地进行优化搜索，处理的是小范围搜索问题和搜索加速问题。 3 算例 图 1 函数- 特性示意图 图 2 函数 特性示意图 采用如下两个非常复杂的、常用于测试遗传算法性能的函数测试本文算法： 函数 称为Came