对共轭梯度法中标量β_k的一种修正.pdfVIP

内蒙古工业大学学报 JOURNALOF INNER M0NG0LIA 第 3O卷 第 2期 UNIVERSITY 0F TECHN0L0GY Vo1．30 No．2 2O11 文章编号 ：1001—5167(2011)03—0081—05 对共轭梯度法中标量 I3k的一种修正 朱铁锋 ，刘雪英 (1．内蒙古工业大学 数学系，内蒙古，呼和浩特市 010051 2．内蒙古师范大学青年政治学院 计算机系，内蒙古，呼和浩特市 010051) 摘要 ：共轭梯度法是优化算法中最常用的方法之一，适于解决大规模问题，因而 有着广泛的应用 ，而标量 不 同的选取可以构成不 同的共轭梯度法 。修正了共轭 梯度法 中的标量 ，将其推广到一般情况 ，并在 v_ol 线搜索下证 明了它的全局收 敛性。 关键词 ：无约束优化问题；共轭梯度法； fe线搜索；全局收敛性 中图分类号 ：O175 文献标识码 ：A 1 问题提 出 本文考虑如下无约束优化问题 ： minf(x)，z∈R (1) 其中 厂：R”一 R为连续可微函数，求解该问题的一种迭代算法形式为 z+1一 X + akd女，k一 1，2，… ， (2) d一Jl 一 ’患一 (3) — g + H ， k≥ 2 其中g 一 vf(x)，d 为搜索方向，一般情况下，要求 d 满足g d 0，这样 的方 向d 为 函数 ，(z)在 ．z处的下降方向 ．a为步长因子 ，可通过精确线搜索或非精确线搜索求得．常用 的一种非精确 线搜索是标准 伽zfe线搜索，其形式如下： f(x +Otkd)≤ f(x)+ g^d (4) g(x +ad) d ≥ ag d 其 中0 1． 是一标量 ， 不 同的选取构成不同的共轭梯度法．常用的共轭梯度法有 HS方法 ， FR方法 ，PRP方法 ，DY方法．虽然FR方法具有全局收敛性 ，张力分别对 FR方法和DY方法做了简单 校正 ，得到校正的Fy方法和DY方法记为MFR和MDY方法 ．本文主要对 DY方法 中标量 进行校 正 ，证明这类新共轭梯度法仅需标准wolfe条件就有全局收敛性 。 2 修正公式及算法描述 2．1 修正公式 修正后标量的公式如下 ： 收稿 日期 ：2010—05—24 作者简介 ：朱铁锋(1979一)，硕士生 ，主要研究方 向：最优化理论与方法、演化算法 ； 刘雪英(1970一)，副教授 ，硕士生导师，主要研究方向：最优化理论与方法、演化算法 。 第 2期 朱铁锋等 对共轭梯度法中标量 8k的一种修正 99 。 一 llg lI (5) g‘^ d 一1一 ag 一1 d^一l 其中 0≤ 1，当 === 时，即为 DY方法，当 一 0时，即为最速下降法． 2．2 算法描述 修正后算法 (A)描述如下 ： 1取z1∈R ，d1一一g ，k：一 1若 g1—0，贝0停． 2计算 a