具有充分下降性非线性共轭梯度法.pdf

摘要 最优化是一门应用相当广泛的学科，它讨论决策问题的最佳选择，构造寻求最 优解的计算方法。虽然最优化问题可以追溯到古老的极值问题，但直到1947年 着系统科学的发展和计算机的广泛应用，最优化理论和方法在工程、国防、经济、 管理等领域以及许多数学分支都有着直接或间接的应用，成为一门十分活跃的学科。 共轭梯度法是最优化中常用的方法之一，它具有算法简单、存储需求少、易于 实现等优点，十分适合求解大规模无约束优化问题。本文研究求解无约束优化问题 的非线性共轭梯度法，并讨论方法的全局收敛性和数值表现。 第一章，首先简要介绍了最优化问题的提出以及判断最优解常用的最优性条件； 回顾了求解无约束优化问题常用的几类导数下降类算法。 第二章，简单介绍了本文将要研究的问题背景和已有结果以及目前的研究现状。 第三、四章，提出两种修正的非线性共轭梯度法，分别为修正FR方法和修正HS 方法，这两种修正方法的一个重要特征就是能产生充分下降方向，即搜索方向巩满 足《畋=一恬。n这种性质不依赖于方法所采用的线性搜索。此外，当采用精确线性 搜索时，本文的修正FR方法和修正HS方法分别退化为原始的FR方法和HS方法。因 此，当目标函数是严格凸二次函数，且采用精确线性搜索时，这些修正的共轭梯度 法具有共轭性和二次终止性。在一定的条件下，我们证明了采用标准Armijo线搜索 的修正共轭梯度法求解非凸极小化问题的全局收敛性。在第四章中我们还在非单调 Armijo线搜索下证明了修正HS方法的全局收敛性。数值结果表明本文所修正的共轭 梯度法具有良好的计算效能，适合求解大规模无约束优化问题，且稳定性较好。 在第五章中证明了修正的FR方法和修正的HS方法采取固定步长时的全局收敛 性。 关键词：非线性共轭梯度法；线性搜索；充分下降方向；全局收敛性 ABSTRACT isa whichis todiscussthebest Optimizationsubject widelyapplied choiceindecision andtoseekthebest the making solution．Although of canbetracedback practiceoptimization totheoldextreme-value problem， itbecamean in1947after had forward independentsubject Dantzig put oflinear basedon algorithm programming simplex the of scienceandthe of development systematic widelyapplication hasbecomeanactive ect in computer，theoptimization subj applied engineering，national andsomebranchesof defence，economy，management mathematicsor