解最优化问题的模式搜索算法-计算数学专业论文.docxVIP

摘要模式搜索方法是求解最优化问题的一种直接搜索方法，它不用目标函数与约束函 摘要 模式搜索方法是求解最优化问题的一种直接搜索方法，它不用目标函数与约束函 数的导数信息而只用函数值信息，是求解不可导或求导代价较大的最优化问题的一种 有效方法。本文针对模式搜索方法收敛慢且易受步长等参数影响的弱点，提出了一个 解无约束优化问题的改进方法。在改进方法中我们设计了不等步长搜索策略，同时还 采用了插值技术和非单调技术，从而得到了一个有效的收敛直接方法。本文在理论上 给出了详细的算法收敛性证明，并把方法推广到一般的约束优化问题上去。本文还进 行了大量的数值试验，数值结果表明了改进方法的有效性。 关键词： 最优化直接搜索模式搜索 ——一一～一～ 中图分类号0221．2 AbstractPattern Abstract Pattern search method is olle of the direct search methods which call be used to solve the optimization problem．It does not need to compute derivative of object function and constraint functions，and is applied to solve the problem where the derivative can not be obtained．In this paper,we proposed a modified pattem search method which can improve the convergence by changing step length，interpolation and nonmonoton search．We also prove the convergence of the modified method，and give the numerical results of the modified methods for solving both unconstrained and constrained problems Key words： optimization，direct search，pattern search 南京航空航天大学硕士学位论文第一章绪论 南京航空航天大学硕士学位论文 第一章绪论 i．1最优化问题及其一般解法 最优化来源于实际问题，是--f]应用相当广泛的学科。最优化问题的一般形式如 下 卿姐 ㈣删 ll Il ％ c，(x)≥0 i=豫+l， r,l 如果把实际问题中的某个目标(如收益，损失等)作为f(x)，把可供选择的方案 用x描述，那么就可以把实际问题转化为最优化问题。用数学方法求解后，再把结果 应用到实际中去，就可以获得好的效果。在这个过程中，数学解法很重要。一般的求 解方法有牛顿法、拟牛顿法、序列二次规划等方法。这些方法的共同特点就是要用到 目标函数的导数信息。然而，有许多问题不存在导数，有些问题求导很困难。这样， 不使用导数信息的方法——直接方法应运而生。 1．2直接方法与模式搜索方法 直接方法只用到函数值信息，不用导数信息。由于可用信息的减少，它的实现难 度也增加了，收敛速度也比使用导数的方法慢。直接方法中有单纯形法、共轭向量法、 模式搜索法i,-次模型法等。模式搜索作为一种直接方法，起源于上世纪五六十年代 并被应用于解实际最优化问题中。虽然模式搜索方法得到了广泛的关注和应用，但是 它的理论还不很完善。直到1997年，Torczon完成了无约束问题模式搜索算法的收 敛性证明”1，并给出了模式搜索算法的框架。在模式搜索算法框架下，不同的模式可决 解最优化问题的模式搜索算法轭方向法 解最优化问题的模式搜索算法 轭方向法 等。此后，Lewis和Torczon发表了矩形边界约束和等式约束的模式搜索 算法的收敛性的论文‘2㈣。 1．3改进方法 由于模式搜索算法不用导数，使得确定目标函数的下降方向很困难，因而收敛速 度较慢，对不同的初值，其收敛速度和精度都会有较大的波动。本文提出了一个改进 模式搜索方法。主要在三个方面作了改进：即设计了不等步长搜索策略、同时采用了 插值技术和非单调技术。在不等步长搜索的基础上使用插值技术可以提高方法的局部 寻优能力，使用非单调技术可改善方法的全局收敛性，从而使改进方法更加有效。本 文还将上述改进方法推广到约束优化情况，同时还给出了数值结果。 南京航空航天大学硕士学位论文第二章基本模式搜索算法 南京航空航天大学硕士学位论文 第二章基本模式搜索算法 2．1模式搜索的理论基础 本文考虑的无约束最优化问题为： 卿／(x) (2·