基于简单锥模型函数的非单调线搜索法.pdfVIP

2014年 9月 高 等 学 校 计 算 数 学 学 报 第 36卷第 3期 基于简单锥模型函数的非单调线搜索法 周群艳 (江苏理工学院数理学院，常州213001) 杜卓明 (江苏理工学院计算机工程学院，常州213001) N0NM oNoT0NE LINE SEARCH M ETHoD BASED 0N SIM PLE C0N IC M 0DEL FUNCTIoNS ZhouQunyan (SchoolofMathematicsandPhysics，JiangsuUniversityofTechnology， Changzhou213001) DuZhuoming (SchoolofComputerEngineering，JiangsuUniversityofTechnology, Changzhou213001) Abstract A simpleconicmodelfunction，inwhichtheHessianapproximationis ascalarmatrix，isconstructedbyusingthefunctionvaluesand gradientvaluesof them inimizingfunction．Basedonthisconicmodelfunction，anew nonmonotone linesearchmethodisproposed．Theconvergenceresultsofthislinesearchmethod areprovedundercertainconditions．Numericalresultsshow thatthenew algo— rithm lSeffective． Key words unconstrainedoptimization，simpleconicmodel，linesearch，non— monotonetechnique，convergence． AMS(2000)subjectclassifications 65K05，90C30 中图法分类号 O221．2 国家自然科学基金项目 ，江苏省高校自然科学研究项目(13KJB110007)，江苏 理工学院基础及应用基础研究项目(KYY13012)，江苏理工学院博士启动基金 (KYY12007) 收稿 日期：2012—04—07． 20x4~ 9月 高 等 学 校 计 算 数 学 学 报 ·223 1 引 言 考虑无约束最优化问题 in，()， (1．1) z∈Rn 、 其中f(x)：R 一R 为连续可微函数． 解问题 (1．1)的最早和最著名的方法之一是早在 1847年由柯西提出的最速下降法 1【】_ 这种方法是沿着可微函数 f(x)的负梯度方向寻找局部极小值点．对于条件数非常小的优 化问题，最速下降法是有效的，但对于坏条件问题，这种方法非常慢，没有太大的实用价值． 众所周知，梯度下降法的存储量较小，应该比较适合解大规模优化问题．然而，解大规 模无约束优化问题的共轭梯度法和拟牛顿法的发展势头要远远胜过梯度下降法．近年来， 为改进梯度法的表现，人们做了很多努力和尝试．1988年，Barzilai和Borwein2【]提出了两 点步长梯度法 (