求解无约束优化的两种算法并分析.pdfVIP

求解无约束优化的两种算法 摘要 耐于无约束优化问题 襞器2(x)， 其中f：卵一虢，目前已有许多有效的求解方法及其相关的收敛性分析．拟牛 顿法和信赖域法就是众多有效方法中的两种．它们在每步迭代时均利用目标 函数值和一阶导数信息来构造目标函数的Hessian矩阵近似，而不需要计算 Hessian矩阵，同时具有收敛速度快的优点．本文首先证明一种修正的DFP 方法的全局收敛性，然后提出一种求解非光滑凸优化的非单调自适应信赖域 方法．本文结构如下， 第一章，简单地介绍求解无约束优化的拟牛顿方法和信赖域方法，然后 给出求解非光滑凸优化的预备知识． 第二章，韦增欣等在文【111中提出了修正的拟牛顿公式，并分别在文【11l 及【121中给出了修正BFGs方法的全局收敛性和超线性收敛性的证明，但尚 未证明修正DFP方法的全局收敛性。本章在适当的条件下，证明上述修正 方法是值得提倡的． 第三章，信赖域方法有较强的收敛性质：不仅全局收敛，而且超线性收 敛．非单调技术可以提高寻找到全局最优点的可能性；另外，当计算的函数 出现峡谷形时，有助于提高收敛速度．受文【24】和【25】的启发，本章对非光 滑凸优化问题提出了一种非单调自适应信籁域方法．在适当的条件下，证明 该方法具有全局收敛性和超线性收敛性。 关键词：无约束优化 凸函数 修正DFP方法线搜索 信赖域 方法 收敛性 ￡皇查兰塑圭兰竺竺圭!丝!!兰2 ；耋墼垄塑查垡丝竺苎竺兰兰 虹 TWoALGORITHMSFoRSOIⅣING UNCoNSTRAINEDoPTIMIZATIoN ABSTRACT 0f conver- kindBe髓ctivemethodsandtheir №tlythere眦many corresponding the 11nco璐tr8ined analys鹤￡0rfono丽ng 0ptinliz她|0nprobleln gence 磐m)， aretw0knd8 methodsandtrllst method8 where，：舻一蹰．Quasi-Ne砒on r晒on 8nd 0f methods．Bothofthemu孵thevalueof fIlⅡctionthe the∞e髓cti、re 0bjective ofits丘rs七一orderderiⅥniantocor塔truct H国sianmatri】【i蚰tead information appr∞dmate of Hessianmatrix func七ionat havethe of calclllating objective everyiteration，they舡so of rate．Inthjs the advantage thesiB，Wefirs七praveglobalconverge