关于无约束最优化问题的基本研究.doc

关于无约束最优化问题求解的基本研究 指导老师： 学生姓名： 所在学院： 数理学院 专业名称： 数学与应用数学 班 级： 数091 学 号： 日 期： 2013年6月摘要 无约束最优化计算方法是数值计算领域中十分活跃的研究课题之一，快速的求解无约束最优化问题，除了自身的重要性以外，还体现在它也构成一些约束最优化问题的子问题.因此，对于无约束最优化问题，如何快速有效的求解一直是优化工作者十分关心的事.论文研究求解无约束最优化问题的几种主要的导数法，并且讨论了这些方法的优缺点以及每种方法的适用范围.同事论文分别对每种方法给出了具体实例，并对例子进行了matlab软件实现 关键词：无约束最优化; 导数法 ;极值 ; 精确度 Abstract Unconstrained optimization numerical calculation method is very active in the field of research, one of the most rapidly solving unconstrained optimization problems, in addition to its importance, is also reflected in some of the constraints that it also constitutes a sub-problem of optimization problems. Therefore, for unconstrained optimization problems, how fast and effective solution has been optimized workers very concerned about. Thesis for solving unconstrained optimization problems several major derivative method, and discusses the advantages and disadvantages of these methods as well as the scope of application of each method. Colleagues papers for each method were specific examples are given, and examples of the matlab software Keyword：Unconstrained optimization Derivative method Extremum AccuracyAlpha 目录 摘要 - 1 - Abstract - 2 - 第一章 绪论 - 4 - 1.1研究背景与意义 - 4 - 1.2问题阐述及简介 - 4 - 第二章 无约束问题的极值条件 - 6 - 2.1. 无约束极值问题 - 6 - 2.2 必要条件 - 6 - 2.3 二阶充分条件 - 8 - 2.4 充要条件 - 8 - 第三章 求解无约束最优化的几种主要方法 - 10 - 3.1最速下降法 - 10 - 3.2 牛顿法 - 15 - 3.3 修正牛顿法 - 19 - 3.4 共轭梯度法 - 23 - 3.5 变尺度法 - 26 - 结束语 - 37 - 参考文献 - 38 - 致谢 - 39 - 第一章 绪论 1.1研究背景与意义 追求最优化目标是人类共同的理想，最优化就是从众多可能方案中选出最佳方案，以达到最优目标.最优化理论和算法是在第二次世界大战后迅速发展起来的一门新兴的应用数学分支，它是一门应用性很强的年轻学科.虽然最优化可以追朔到很古老的极值问题，但是直到1947年Dantzig提出一般线性规划问题的单纯形法之后，它才成为一门独立的学科.近三、四十年来随着现代科技的发展和电子计算机的广泛应用，进一步推动了最优化的迅猛发展及其理论和算法的研究.现在最优化理论已广泛应用与生产、管理、军事国防、政府决策、交通运输、经济规划等方面. 无约束最优化计算方法不仅本身有着不少实际应用，而且与约束最优化计算方法有着紧密的联系：一方面有些处理无约束最优化问题的方法能直接推广应用于约束最优化问题；另一方面，还可以把一些约束最优化问题转化为无约束最优化问题来处理.因此从这个意义上讲，无约束最优化计算方法也是处理约束最优化问题的基本方法. 研究求解无约束最优化问题的有关理论和算法，在近几十年来迅速发展并且日趋成熟.随着计算机的发展和普遍应用，作为一种有效的