共轭梯度算法的一个变形.pdf

共轭梯度算法的一个变形 桑兆阳 中国石油大学(华东)数学与计算科学学院，山东青岛 (266555) E-mail：sun1410@163.com 摘 要：对求解无约束最优化问题的共轭梯度算法的形式作了一个变形, 提出了一个新的求 解无约束最优化问题的共轭梯度算法. 在 Armijo 步长搜索规则下, 讨论了算法的全局收敛 性. 数值实验结果表明算法是有效的. 关键词：无约束最优化问题；共轭梯度法；Armijo 步长搜索；收敛；数值实验 中图分类号：O221.2 1．引言 考虑无约束最优化问题 (p ) : min f (x) , 其中 f (x) : R n →R 1 是一阶连续可微函数. x ∈R n 记g k ∇f (xk ) . 共轭梯度算法具有如下形式的迭代公式: x x +λ d (1) k +1 k k k ⎧−g k , k 1, dk ⎨ (2) g β d , k 2. − + ≥ ⎩ k k k −1 式中: λ 是步长, 可以通过某种策略得到; β 是一个参数, 不同的参数对应不同的共轭梯 k k 度算法. 经典的共轭梯度算法有 FR 、PR 、HS 算法, 其参数β 的取法如下: k FR 2 2 βk g k g k −1 ; PR T 2 βk (g k (g k −g k −1 )) g k −1 ; HS T T βk (g k (g k −g k −1 )) (dk −1 (g k −g k −1 )) . 邓乃扬[1]研究了三项共轭梯度法, 其搜索方向为 ⎧−g k , k 1, dk ⎨