无约束优化算法比较及其极值点研究.pdf

第28卷第4期 四Jll理工学院学报(自然科学版) V01．28No．4 ofSichuan of Science Aug．2015 2015年8月 Journal University Edition) Science＆Engineering(Natural 文章编号：1673-1549(2015)04-0089-06 无约束优化算法比较及其极值点研究 毛巍1．兰恒友2 (1．1匹tl 摘要：求解无约束优化问题是数值计算方面的重要研究内容，求解无约束优化问题的方法较多， 选择一种较为快速且复杂度较小的方法具有重要意义。介绍无约束优化问题中7种算法的基本思想和 具体步骤，并结合MATLAB软件编程仿真，依据定量分析对仿真结果进行对比分析，对这7种算法的优 缺点和极限点的收敛情况进行对比研究，并且根据其收敛迭代次数和数值计算结果精确度确定一个相 对有效的算法。 关键词：无约束优化算法；算法分析；迭代收敛；极限点比较 中图分类号：0224 文献标志码：A 题有单纯形算法这一通用方法。解非线规划问题到目 引言 前为止，还没有建立起适用于各种问题的一个通用算法 随着计算机近30年的发展，最优化方法发展成为 对非线性规划问题是普遍有效的。各个方法都有自己 数学应用领域一个重要的分支。至于“最优”的解释，就 特定的适用范围，因而这是需要人们深入研究的一个领 是将某一事件发展为最好的状态。如今，无论人们从事 域。但由于很多问题需要进一步精确化，以及计算机的 各种活动，都希望能使所要从事的活动达到自己想要的 发展，使非线性规划在近30年得到迅速的发展，开始形 理想状态。在现实生活中广泛存在着最优化问题。而 成最优化问题的一个重要分支，有广泛的应用，特别是 将最优化问题转化为比较容易解决的数学类问题，并快 为最优化设计提供数学理论基础旧1。 速找出最优解的数学方法就是最优化方法。求解目标 对于这些方法，可以大致归类为三大类方法：最速 函数极大值极小值问题是数学上的一类问题，并且这也 下降法、牛顿法及拟牛顿法。根据这三大类方法，不同 是最优化问题。因此求解最优化问题的最优化方法是 r’等于 研究方向的研究者都有很多研究结论。Fviege 一种数学类方法，而不是工程类方法，其重要意义体现 2000年对最速下降法进行了分析和完善，并结合众多学 在不仅在经济管理学、运筹学和系统工程等数理学领 者的研究，总结出最速下降法收敛速度慢以及通常在计 域，而且也日益广泛地应用在其他领域(如工程设 算过程前期迭代或者期间插步骤适用”‘。牛顿法是一 计)‘“。 种求解无约束最优化问题的经典方法，但其存在的不足 非线性最优化，或者说非线性规划，是至少有一个 (例如Hesse矩阵的可逆性)也令其进行不断完善，比如 含有自变量的非线性函数存在于要求解的最优化问题 W怕1等研究出牛顿法和最速下降法的组合方法。 Joseph 的约束条件和目标函数中。所以相对应的要用非线性 拟牛顿法，类似于最速下降法，具有牛顿法的快速收敛 规划方法求解非线性规划问题。而且相比求解线性规 性，是一种较为有效的求解最优化问题的方法