改进的无约束最优化折线方法.pdfVIP

径，应使二次模型礓(d)在其可行域(称之为。信赖域’)中与目标函数足够接 近． 信赖域半径要在迭代过程中不断调整． 设所获得的子问题(1．1)的最优解为呶．考虑mk(dk)和，(‰+dk)的近似程度， 并依此作为依据决定下一次迭代时的信赖域半径．为此，定义· P”dk=mk(O)一mk(d^) Aredk=^一，(钆+血) Aredk “2—Pre—d^ 调整信赖域半径的一个典型规则如下· f“； △¨l=min{2AI，凸‰) ns △^+1=△七 i {{s 【仇{ Ak+l={乱 迭代，否则￡I+l=zb，重解信赖域半径缩小的子问题． 信赖域方法在各方面都获得了引人注目的进展．如Zhang『18]提出的适应性 trust 信赖域(adaptiveregion)算法中，利用肌和展的信息确定信赖域半径，而 trust Hei吲提出的自适应信赖域(self-adaptiveregion)算法中通过对下降比率的冗 分解来确定信赖域半径等等．另外，Nocedal，袁亚湘等【41考虑了将线搜索方法与 信赖域方法结合来解决非线性优化问题．近年来，孙文瑜等[21[11][17l借鉴线搜索 方法中的非单调技术提出的非单调性信赖域算法等，都是有意义的工作． 另一方面，在信赖域子问题的处理上，由于精确解的计算量较大，许多学者 进传统的折线方法。以进一步提高计算效率．我们应用潘平奇提出的椎投影方法， 将柯西点向牛顿方向偏移某个角度得到近似柯西点。由此产生新的折线路径代替 最优路径，得到信赖域子问题的近似最优解．我们描述相应的信赖域算法并给出 了其收敛性证明．我们的数值结果表明，新算法与传统折线算法相比确有所改进． 本文的架构如下．第二章概述传统的折线方法．第三章详细描述了改进的折线 方法及具体实现过程．第四章给出了新算法的收敛性分析．第五章报告了关于新算 法的计算实验结果，与传统折线算法加以比较及分析．最后一章对全文进行总结． 第二章Dogleg方法简介 求解信赖域子问题是信赖域方法的基础。精确求解信赖域子同题(见【24】等)， 计算量大，代价过高，其理论价值高于应用价值．因此人们更加关注非精确解方法 求信赖域子问题．非精确解方法中，最经典的要数PoweU提出的传统的折线方法 (Dogleg方法)． 对于信赖域子问题t mtn mk(d)=^+gTd+ldTBkd 8．t IIdll≤△^ Dogleg方法利用折线路径替代精确解路径． 假设风是对称正定矩阵，这里风的对称正定性质可以用BFGS修正公式保 持， Bk+I风-I一鬈一警8k．雏s^ 雌a‘ sAk，则信赖域子问题的最优 验牛顿点dⅣ是否在信赖域的范围内，如果Il巧19kIl 解dk=茚=一日譬1肌，如果1l￡蠢19klI△^，就不能简单地在牛顿方向上截取长度为 Ak的的向量来得到最优解了．在△k充分小时，由mk(d)的表达式，噍≈一翻鲰． 实际上，此时的靠近似于在负梯度方向上截取了长度为△k的一个向量．那么当 △k由小变大时，出的端点形成了一条曲线．为此人们在折线上求子问题的最优解， 即为折线方法．首先定义· rgkll2 d；：=咪_丽I 显然它是无约束优化问题t rain m女(d)=^+gTd+；dTBkd 沿着最速下降方向一弧的最优解． 此时，令一 嘶，={