一个改进的BFGS算法.pdfVIP

第 26卷 第 1期 福建师范大学学报 (自然科学版) Vo1．26 No．1 2010年 1月 JournalofFujianNormalUniversity (NaturalScienceEdition) Jan．2010 文章编号 ：1000—5277(2010)01．0028—05 一 个改进的BFGS算法 陈秀琴h。，马昌凤 ¨ (1．福建师范大学数学与计算机科学学院福建 福州 350007；2．闽江学院数学系，福建 福州 350108) 摘要 ：提 出了求解无约束优化 问题 的一个改进的BFGS算法，并结合 Goldstein线搜索证 明了算法对一 般 非凸 目标函数极小化 问题的全局收敛 性． 关键词 ：无约束最优化 ；BFGS算法 ；全局收敛性 中图分类号：O221．2 文献标识码 ：A An ImprovementonBFGSAlgorithm CHEN Xiu—qin ．M A Chang—feng (1．SchoolofMathematicsandComputerScience，FujianNormalUniversity，Fuzhou350007，China； 2．DepartmentofMathematics，MinjiangCollege，Fuzhou350108，China) Abstract：AnimprovedBFGSalgorithm isproposedforsolvingnonconvexunconstrained optimizationproblems．AnditisprovedthatthemethodwithGoldstein typelinesearchis globallyconvergent．Numericalresultsindicatethemethodiseffective． Keywords：unconstrainedoptimization；improvedBFGSalgorithm ；globalconvergence 自从Davidon在 1959年提出第一个拟牛顿秩2校正法一DFP算法，特别是Fletcher和Powel于 1963年重新改写之后，拟牛顿算法的研究引起了广泛关注[1]．在精确线搜索之下，拟牛顿算法被证明 具有二次终止性[2]．而关于一般非线性 目标函数的收敛性，直到 1971年才有Powel给出的第一个结 果口]，他证明了对于一致 凸的二阶连续可微函数，当采用精确线搜索时DFP算法的全局收敛性，当海 色阵满足Lipschitz条件时，收敛速度是超线性的．稍后，Powell又在 目标函数为凸的较弱条件下，证 明了BFGS算法的收敛性．对于更一般的非线性函数 ，Powell猜想能得到全局收敛性并试 图给出证明， 然而，他只对 =2的情形给出证明．因此，当 2时拟牛顿法对一般的非凸 目标函数的全局收敛性， 至今仍是一个没有解决的问题．本文提 出一种新的校正公式，改进BFGS算法． 1 改进的BFGS算法 对无约束优化问题 ： min厂(z)， X∈R ， (1) 其中厂： 一R二阶连续可微有下界．记 一f(x)，g^一Vf(x)，G — Vf(x)，Y—g抖 一g， — z+一 ．把，(z)在 X点展成泰勒级数， 1 厂(z)≈ + (z—X)+÷(z—z)G(z—z)， 厶 则有 收稿 日期：2009—02—13 基金项 目：福建省自然科学基金资助项目 (2009J01002)；福建省科技厅资助省属高校项 目 (2OO8F5Ol9) 作者简介 ：陈秀琴 (197O一 )，女，福建福州人，讲师． *通讯作者：macf@fjnu．edu．c