求解界约束优化一种新非单调谱投影梯度法.pdfVIP

2013年 l1月 计 算 数 学 第 35卷第 4期 Nov．2013 M ATHEMATICA NUM ERICA SINICA Vol1．35，NO．4 求解界约束优化的一种新的非单调 谱投影梯度法冰1) 毕亚倩 刘新为 (河北工业大学理学院，天津300401) 摘 要 本文给出求解界约束优化问题的一种新的非单调谱投影梯度算法．该算法是将谱投影梯度算 法与ZhangandHager[SIAM JournalonOptimization，2004，4(4)：1043—1056】提出的非单 调线搜索结合得到的方法．在合理的假设条件下，证明了算法的全局收敛性．数值实验结果表明， 与已有的界约束优化问题的谱投影梯度法比较，利用本文给出的算法求解界约束优化问题是有竞 争力的． 关键词：界约束优化问题；非单调线搜索；谱投影梯度法；全局收敛 MR (2000)主题分类：65D17 1．引 言 我们考虑下面的界约束优化 问题 s．t．1 x u， (1．1) 其中．厂：R _÷R是可微函数，l∈R ， ∈R”，且 liui，i=1，2… ．，n．这个问题不仅仅有 很多实际应用 1，而且也可以作为无约束优化问题的信赖域子问题 L3】提出．另外，一些互补 问题 【】可以转化成问题 (1．1)．已经有很多专家和学者研究了这个问题，提出了很多有效的算 法 [5-11】． 谱梯度 (BB)方法是 1988年 由BarzilaiandBorwein[J提出的，该文证明了对于二维严 格凸二次函数，BB 法是 R-超线性收敛的．对于一般函数，是否存在一个梯度算法是超线性 收敛的?在 1990年，对于任意n维函数，Fletcher[]否定了获得超线性收敛的可能性，但是 提出可能得到 线性收敛的梯度算法．1993年，Raydan[MJ对于任意n维严格凸二次函数， 证明了BB法是全局收敛的．2002年，DaiandLiao[]结合非单调策略证明了对于一般函数 的极小化问题，BB法是 线性收敛的．2005年，DaiandFletcher[]证明了循环最速下降 步长梯度法 (CSDS)是超线性收敛的． 投影梯度法 [1718】一般都采用一些简单的策略来选取步长，因此实际计算效果往往如同 最速下降法一样具有很慢的收敛速度．为了提高投影梯度法的收敛速度，Birgin，Martfnezand Raydan[5J将 BB法和投影梯度法结合提出了可以求解 问题 (1．1)的一个谱投影梯度法 (称为 SPG算法)，并利用 Grippo，LamparielloandLucidi[]提出的非单调策略 (称为GLL非单 调线搜索)，证明了SPG算法是全局收敛的，其中使用的GLL非单调线搜索要求下一次迭代 2013年4月 22日收到． )基金项 目：国家 自然科学基金资助项 目(112711071 420 计 算 数 学 点的函数值，比前M 次迭代中函数值的最大值小．Grippo，LamparielloandLucidi通过数值 试验表明SPG算法是一种很有效的算法．但是对于 GLL非单调线搜索的使用，Raydan[。。] 给出的数值实验表明当海色矩阵是奇异时，SPG 算法的求解结果可以严重依赖于参数M 的 取值．Yu[8j将谱投影梯度法和建立的非单调线搜索结合来求解界约束优化问题，其中的非单 调线搜索要求下一次的迭代点的函数值 比当前迭代点的函数值或者前M 次迭代的函数值的 组合值小．Yu构造的非单调线搜索也需要依赖于参数 M 的选取，并且对组合值的系数有一 定的要求，即要求前M 次迭代中最大函数值的系数较大．所以如何选取参数 M 和系数对获 得的数值结果有一定的影响．Yu，SunandQin[9]结合拟牛顿性质提出多重谱投影梯度