迅速发展中的共轭梯法.pdfVIP

2008年第6期 牡丹江教育学院学报 No ．6，2008 ( 总第l 1 2期) J oURNAL oF MUDANJ l ANGCoLLEGEoF EDUCATI oN Ser ial No．112 迅 速 发 展 中 的 共 轭 梯 法 高 德 宝 ( 黑龙江八一农垦大学文理学 院，黑龙江大庆1633 19) [ 擒耍 共轭梯法是最优化 理论中解决实际问题的一类重要方法．它解决无约束优化问题，特别是解决 大规模 问题具有很大 的实用价值 ．因此它是现代学者热心研究的优化方法之一 ，并 以前所未有 的速度向前发展． 本文侧重于非线性共轭梯度法 。就其发展进程作 了总姑与评价分析 。 [ 关键词 共轭梯法；无约束 ；精确搜索#非精确搜索，非线性 [ 中图分类号 B83 [ 文献标识码 A [ 文章编号 l 009—2323( 2008) 06一0098一02 共轭梯度法是因求解线性方程组Ax 葫．x ∈P而命 八瓢+ 口I d- ) ≤，( zt )+如I gt Td 。和 名的。它是由计算数学家He s t enSe 与几何学家St i ef el 在20 l 以79( 丑+口t dt )I ≤ 口l 政79I l ，其 中O菸 口l 世纪50年代提出的。而实际上当为对称正定矩阵时，上面 Ami j o线性搜索：给定p ∈( o，1) ，求a ·=max {pi ，j = 的线性方程组饵的同题等价于下面的非线性最优化 问题 O．1，2⋯) 满足，( zI +a t dl ) ≤，( z▲) +艿 口▲917dI mi n ÷z 7 ．Az 一67z 2 ．非线性共轭 梯度法 X∈矿Z 步骤如下。 其中工，6 ∈R1。A=( 4 Ⅱ) ．x 。 St 印l ：选取初始点勘 ∈P．允许误差限￡O．置 七：=l f 1．线性共轭梯度法 s t ep 2 ：计算g I =V，( 丑) ，若l b 0e ．则停止。否则 步骤如下： 转St ep 3； St 印1。选取初始点面∈P，允许误差限e0，令r o St ep 3t 构造搜索方 向．令 以=一承+展dt 一 ，。其 中当 =触。一6，磊= 一r o 。置丘=Ol 七=1，展=O； St ep 2t 如果忆I I e ，则停止。否则计算步长因子 St ep 4l 令魏+l = 乩+ 口 ·d ·，其 中，( 瓢+aI dI) 。置，转 St ep 2 ． ”。．一一 垒：垒 d 。7Ad 。 其中pl 是参数，随着既的不同取法对应于不同的非 令下一个迭 代点为：z I+l 一魏+口I d ·，r I +l =A以+l 一6 ， 线性共轭梯度法 ．著名的有t 1952年He st e璐e 与St i ef el 提 出HS 的方法 ：风瞄=