求解约束优化问题的记忆梯度goldstein_lavintin_polyak投影.pdf

第35 卷第 12 期 数学的实践与认识 V o l35　N o 12　 2005 年 12 月 M A TH EM A T ICS IN PRA CT ICE AND TH EO R Y D ecem. , 2005　 求解约束优化问题的记忆梯度 - - 投影算法 Goldste in Lav in tin Polyak 孙清滢, 　程　鹏, 　王清河 ( 中国石油大学应用数学系, 山东 东营　257062; 大连理工大学应用数学系, 辽宁 大连　116024) 摘要: 　给求解无约束规划 问题的记忆梯度算法中的参数一个特殊取法, 得到 目标函数的记忆梯度 投影下降方向, 从而对凸约束的非线性规划问题构造了一个记忆梯度 Go ldstein L avintin Po lyak Go ldstein 投影算法, 并在一维精确步长搜索和去掉迭代点列有界的条件下, 分析了算法的全局收敛 L avintin Po lyak 性, 得到了一些较为深刻的收敛性结果. 同时给出了结合FR , PR , H S 共轭梯度算法的记忆梯度Go ldstein 投影算法, 从而将经典共轭梯度算法推广用于求解凸约束的非线性规划问题. 数值例子表 L avintin Po lyak 明新算法比梯度投影算法有效. 关键词: 　非线性规划; 凸约束的非线性规划问题; 投影算子; 共轭梯度; 收敛性 Go ldstein L avintin Po lyak 1　引　　言 　　考虑问题(p ) : m inf (x ) , 其中 R n 是非空闭凸集, f (x ) : R n →R 是 上一阶连续 x ∈∈ 可微函数. 对问题(p ) , Calam ai P. H 等在文献[ 1 ] 中提出了求解问题的(p ) 的一般性Go ldstein 梯度投影算法. 记g k 是f (x ) 在x k 点的梯度, 梯度 L avitin Po lyak Go ldstein L avitin Po lyak 投影算法之迭代公式为: x = p (x - g ) , 　k = 1. 2, …, k + 1 k k k 其中投影算子p (. ) : R n → 定义为: p (x ) = argm in z - x 2 : z ∈ . [ 1 ] 步长 满足广义 步长搜索 , 并分析了算法的收敛性, 但收敛速度慢. 记忆梯度算法 k A rm ijo 是求解无约束规划的有效算法. 由于这类方法在迭代中较多地利用了已经得到的目标函数 的某些信息, 因而具有较快的收敛速度.