大步长非单调线搜索规则Lampariello修正对角稀疏拟牛顿算法全局收敛性.pdfVIP

维普资讯 第37卷第3期 数 学 进 展 Vo1．37．No．3 2oo8-~-6月 ADVANCESIN MATHEM ATICS June，2008 大步长非单调线搜索规则 的Lampariello修正 对角稀疏拟牛顿算法的全局收敛性 孙清滢 ， 郑艳梅 (中国石油大学数学与计算科学学院，东营，山东，257061) 摘要：本文在 ZhangH．C．的非单调线搜索规则基础上，结合 ShiZ．J．大步长线搜索技巧提 出了新的大步长的非单调线搜索规则，设计了求解无约束最优化问题的大步长非单调线搜索规则的 Lampariello修正对角稀疏拟牛顿算法，在vf(x)一致连续的条件下给出了算法的全局收敛性和超 线性收敛性分析．数值例子表明算法是有效的，适合求解大规模问题． 关销 非线性规划；对角稀疏拟牛顿算法；非单调线搜索；收敛 MR(2000)主题分类：90C30／中图分类号： O221．2 文献标识码： A 文章编号： 1000-0917(2008)03—0311—10 0引言 考虑无约束优化问题： (P)：min∈ ，()，其中，()： 一R 是一阶连续可微函数．求解 问题 (P)的拟牛顿算法收敛速度快，每次迭代不需要计算 目标函数的Hesse矩阵及其逆矩阵， 记9(x)=Vf(x)，gk=Vf(xk)，其基本迭代形式为 Xk+l= + akd}， (1) 其中OLk为搜索步长，可通过某种策略确定，搜索方向为 dk= 一风 ， 其中竭 为 目标函数的Hesse矩阵的逆矩阵之近似，要求正定且满足拟牛顿条件 ／／kYk一1= 8k一1． 其中Yk一1=gk—gk一1，8k一1= 一 一1．但算法存储量至少为 o(n。)，这给求解大规模问题 带来困难．为此，1988年，Barzilai和Borwein[】提出了如下两点步长梯度法，其迭代公式为 Xk+l= 一Dkgk，其中Dk=akI是—个数量矩阵．为使 Dk具有拟牛顿性质，计算步长 A 满足 minlJDkyk一1—8k一1 收稿 日期： 2007-03-08． 基金项目：国家自然科学基金 (No，中国石油大学博士基金 (No．YO4O804) E-mail：}sunqingyingO1~163．com 维普资讯 312 数 学 进 展 37卷 求解得 一 ． 之后，很多学者对此类算法进行研究，并得到许多重要结论 [2--4]．为使 D 更加充分接近 目标 函数的Hesse矩阵的逆矩阵，时贞军 [5】提出了如下对角稀疏拟牛顿算法，其存储量降为 O(n)， 即在拟牛顿算法中限制校正矩阵风 为对角正定稀疏矩阵且近似满足拟牛顿条件，即 设 =diag(h~， ，…，)为对角矩阵，满足 minll上 一1一s一1ll。， 其中 l1．1l为欧氏范数．为保证搜索方向dk=一矾 为 ，()在 的下降方向，限制 。= diag(h~，2，…，)取值，即 0h h， i=1，2，… ， 其中0 为常数．此时式 (3)变为 智,…hi…i 解之得 (1)当—l≠0时，若h ，则取 =