关于一些最优化方法与收敛性.pdfVIP

南京师范大学 硕士学位论文 关于一些最优化方法的收敛性 姓名：杨正豪 申请学位级别：硕士 专业：计算数学 指导教师：孙文瑜 2003.5.1 作者签名：拯圭鑫．、等雹??声明期：纽?』：当本人郑重声明：?⒓岢忠浴扒笫怠⒋葱隆钡目蒲Ь?翊邮卵芯抗ぷ鳌??⒈韭畚氖俏腋鋈嗽诘际χ傅枷陆?械难芯抗ぷ骱?取得的研究成果。?⒈韭畚闹谐??耐猓??惺笛椤⑹?莺陀泄夭牧?均是真实的。?⒈韭畚闹谐??暮椭滦坏哪谌萃猓?话??渌??或其它机构已经发表或撰写过的研究成果。?⑵渌??径员狙芯克?龅墓毕拙?言诼畚闹凶髁?声明并表示了谢意。日／ 摘要关键词：无约束最优化，非精确线性搜索，拟牛顿法，???本文主要研究了一些最优化方法的收敛性．其中第一部分主要研究非精确线性搜索条件下????宸椒ㄗ芴迨???残缘囊恢?简单证明．这种证明方法比【?中给出的证明方法简单，它实际上是?】中证明??方法总体收敛性的改进和推广．第二部分主要研究无约束最优化问题非单调信赖域法．此方法允许目标函数值在迭代过程中在某些步可以上升．而保持其全局收敛性．最后给出的数值试验表明非单调信赖域法优于通常的信赖域法．???准则，信赖域法，非单调法，收敛性．硕士学位论文杨正豪??年?? 篣???????【?縄???????，???狿????????????????????甌?????．????，???，?????????????????甌????，??????????????????，???????，????????????瑃?????，?????????，摘要 前言最优化是一门应用相当广泛的学科，它讨论决策问题的最佳选择之特性，构造寻求最佳解的计算方法，研究这些计算方法的理论性质及实际计算表现．伴随着计算机的高速发展和优化计算方法的进步，规模越来越大的优化问题得到解决．最优化问题可广泛见于经济计划、工程设计、生产管理、交通运输、国防等重要领域．因此它已受到政府部门、科研机构、和产业部门的高度重视．最优化问题可以追溯到法国数学家????关于一个函数在一组等式约束下的极值问题．但它成为一门独立的学科是在上世纪四十年代末，是在??年?????现．实际应用也日益广泛．上实际八十年代初期兴起的信赖域法也是非线性规划的一个十分热门的研究课题．它进一步促进了非线性规划的研究与应用．最优化主要研究无约束和约束等最优化问题．约束最优化主要研究在一组等式人提出了非线性规划的最优化条件。为最优化的发展奠定了理论基础．伴随着变尺度法的兴起，国际上涌现出如???、????、???等一大批著名的非线性规划专家．近年来。求解大规模优化问题的??椒ǔ晒ττ茫?沟梅窍咝怨婊?扑惴椒ǔ?为大规模科研与工程计算的一个重要方向．?∈?埃?凑漳骋坏??嬖虿??桓龅懔衶??Ｊ沟玫眥??怯星畹懔惺保?渥詈?一个点是最优化模型同题的最优解．一个好的算法应具备的典型特征为：迭代点?能稳定地接近局部极小点??牧煊颍?缓笱杆偈樟灿趏’．当给定的某种收敛准则满足时。迭代即终止．一般地。我们要证叨迭代点列??的聚点?醋有蛄械募?薜?收敛速度是衡量最优化方法有效性的重要方面．一般认为．具有超线性收敛速度和二阶收敛速度的方法是比较快速的．不过。对任何一个算法。收敛性和收敛速度的理论结果并不保证算法在实际执行时一定有好的实际计算结果．这一方面是由于这些结果本身并不能保证方法一定有好的特性，另一方面是由于它们忽略了计算过程硕士学位论文出求解一般线性规划同题的单纯形法之后．现在，解线性规划、非线性规划、多目标规划、几何规划、整数规划等各种最优化问题的理论的研究发展迅速．新方法不断出和不等式约束条件下．求一个函数的极值问题．??年，?甒最优化方法通常采用迭代法求它的最优解．其基本思想是??ㄒ桓龀跏嫉?为一局部极小点．??和?甒．???等杨正蠢??年??? 中十分重要的舍入误差的影响．此外，这些结果通常要对函数加上某些不易验证的限制，这些限制条件在实际上并不一定能得到满足．因此．一个最优化方法的开发还有个好的算法应该具有可以接受的特性．显然．数值试验并不能以严格的数学证明保证算法具有良好的状态．理想的情况是根据收敛性和收敛速度的理论结果来选择适当的本文主要研究了一些最优化方法的收敛性．其中第一部分?谝徽?主要是研究非精确线性搜索条件下????宸椒ㄗ芴迨樟残缘囊恢旨虻ブっ鳎?庵种っ鞣椒ū??】中给出的证明方法简单．它实际上是【?中证明??方法总体收敛性的改进和推广．第二部分?诙??主要研究无约束最优化问题非单调信赖域法．此方法允许目标函数值在迭代过程中在某些步可以上升．而保持其全局收敛性．最后给出的数值试赖于数值试验．这就是说，通过对各种形式的有代表性的检验