类Broyden族非拟牛顿算法对一般目标函数的全局收敛性.pdf

维普资讯 第27卷第1期 数 学 研 究 与 评 论 Vo1．27，No．1 2007年2月 JOURNALOFMATHEMATICALRESEARCHANDEXPOSITION Feb．，2007 文章编号：1000—341X(2007)01—0201—06 文献标识码：A 类 Broyden族非拟牛顿算法对一般 目标函数的全局收敛性 陈兰平， 焦宝聪， 王万良 (首都师范大学数学系，北京 100037) (E-mail：chenlanp~mail．cnu．edu．an) 摘 要：应用双参数的类 Broyden族校正公式，为研究求解无约束最优化问题的拟牛顿类算法对 一 般 目标函数的收敛性这个开问题提供了一种新的方法。 关键词：无约束最优化；类Broyden族校正公式；非拟牛顿算法；全局收敛性． MSC(2000)：90C30；65K05 中图分类：O174．13 1引 言 考虑无约束最优化问题 min，()， ∈R 其中目标函数 ，()二阶连续可微，记 fk=f(xk)，gk=vf(xk)，，y=．9+l—gk，Gk= f(xk)，5k= +1～ 当IIII充分小时，有近似关系： 讯，且对二次函数上式等号严格成立．考虑迭代 ％+1= +Akdk，dk= 一Bk一gk， (1．2) 其中 为 的近似矩阵， ％为某种线搜索确定的步长．令由 产生的修正矩阵 +1满 足拟牛顿方程 Bk+lSk= ，)． (1．3) 则由此可以导出许多著名的拟牛顿算法． 拟牛顿法是 目前最成熟，应用最广泛的解法之一．近二十多年来，对拟牛顿法收敛性质的 研究一直是非线性最优化算法理论研究的热点．带非精确搜索的拟牛顿算法的研究是从 1976年 Powell[1】开始，他证明了带Wolfe搜索BFGS算法的全局收敛性和超线性收敛性．1978年Byrd， Nocedal，YuanYa—xiang[3l成功地将Powell的结果推广到限制的Broyden凸族 (圣∈[0，1))．1989 年，Nocedal[4】在 目标函数一致凸的条件下，证明了带回追搜索的BFGS算法的全局收敛性和 超线性收敛性．1996年，刘光辉、韩继业 【】采用一种比Wolfe搜索更广泛的搜索技术，并将它 与Broydei1凸族结合，对凸函数证明了Broydei1凸族具有全局收敛性．近年来，基于修正拟牛 顿方程的非拟牛顿算法的研究亦吸引了不少国内外学者．1991年，YuanYa—xiang6[】1995年， 收稿日期：2005—01—17；修订日期：2005—11-08；接受日期：2006一O1—2O 基金项目：国家自然科学基金 ；北京市教委科研基金 (KM2OO51OO28019) 维普资讯 202 数 学 研 究 与 评 论 27卷 YuanYa-xiang，Richard，H．Byrd[7】又给出了一类非拟牛顿校正算法．1997年，陈兰平、焦宝聪 Is】提出了一种非拟牛顿算法，使Broyden族拟牛顿法成为该算法的一个特例．2000年，Chen Lan-ping，JiaoBao—cong[9】采用一种比w0llfe搜索更广泛的搜索技术，在一定条件下证明了非 拟牛顿非凸族对凸目标函数的全局收敛性． 1999年，邓乃扬、薛毅等 1【2]研究了基于新拟牛顿 方程的拟牛顿法的全局收敛性． 然而上述各种算法当n2时，对一般 目标函数的收敛}生迄今仍是一个没有解决的问题． 1996年，赵云彬等 [10,11】提出了一种伪Ne