- 1、本文档共3页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
一个修正的NVPRP方法.PDF
第34卷第2期
Vol.34 NO.2
重庆工商大学学报(自然科学版)
JChongqingTechnolBusinessUniv(NatSciEd)
2017年4月
Apr.2017
doi:10.16055/j.issn.1672-058X.2017.0002.007
一个修正的 NVPRP方法
吴 素 花
(重庆师范大学 数学科学学院,重庆 401331)
收稿日期:2016-03-12;修回日期:2016-04-06.
作者简介:吴素花(1991-),女,重庆秀山人,硕士研究生,从事最优化理论和算法研究.
摘 要:非线性共轭梯度方法是解决大规模无约束问题最有效的方法之一,提出了一类新的修正共轭
梯度算法,新算法推广了黄海东等的共轭梯度参数算法,不依赖任何线搜索且具有充分下降性;然后,在标
准 Wolfe非精确线搜索下,得到了新算法的全局收敛性.
关键词:无约束优化问题;共轭梯度法;充分下降性;全局收敛性
中图分类号:O225 文献标志码:A 文章编号:1672058X(2017)02003103
0 引 言
考虑以下无约束极小问题:
minf(x) x∈ Rn (1)
共轭梯度法是求解这类问题的最有效的方法之一,
其一般迭代格式为
xk+1=xk+αkdk (2)
dk=
-gk,k=0
-gk+βkdk-1,k≥1{ (3)
其中 αk为由某种线搜索确定的步长,gk表示
f(x)在点 xk处的梯度,参数 βk称为共轭梯度参数,
关于参数 βk的不同取法对应于不同的共轭梯度法.
著名的共轭梯度法有 1952年 Hestenes和 Stiefel在
文献[1]提出的 HS方法;1964年 Fletcher和 Reevse
在文献 [2]提出的 FR方法;1969年 Polak和
Ribiere,Polyak在文献[34]独立提出的 PRP方法;
1987年 Fletcher在文献[5]中提出的 CD方法;1991
年 Liu和 Storey在文献[6]中提出的 LS方法;1999
年戴虹和袁亚湘在文献[7]提出的 DY方法,其对
应的 βk的计算公式如下:
βFRk =
gk 2
gk-1 2
,βHSk =
gTkyk-1
dTk-1yk-1
,βCDk =
gk 2
-gTk-1dk-1
βPRPk =
gTkyk-1
gk-1 2
,βDYk =
gk 2
dTk-1yk-1
,βLSk =
gTkyk-1
-gTk-1dk-1
其中 · 代表范数,yk-1=gk-gk-1.
在以上经典的 βk公式的选取中,PRP,HS,LS
的计算效果比较好,但是理论比较差.对于一般的
非线性函数,Powel[8]举出了一个三维的例子证明
了即使采用精确线搜索,PRP方法也不收敛.为了得
到好的理论及数值效果,Huang,Li和 Wei[9]对 PRP
方法进行了修正,称为 NVPRP方法,βk由下面公式
确定:
βNVPRPk =
gTk gk-
gTkgk-1
gk-1 2
·gk-1( )
gk-1 2
(4)
江羡珍等在文献[10]中对 PRP和 HS提出了修正,
βk选取如下:
βJPRPk =
gk 2-
gk
gk-1 ·g
T
kgk-1
max{gk 2,θgTkdk-1 }
(5)
βJHSk =
gk 2-
gk
gk-1 ·g
T
kgk-1
maxdTk-1yk-1,θgTkdk-1{ }
(6)
基于以上 βk的选取,黎小林在文献[11]提出了:
βMJk =
gk 2-
gk
gk-1 ·g
T
kgk-1
max gk 2,dTk-1yk-1,θgTkdk-1{ }
(7)
此处将 NVPRP修正如下:
βMNVPRPk =
gTk gk-
gTkgk-1
gk-1 2
gk-1( )
max gk-1 2,dTk-1yk-1,θgTkdk-1{ }
(8)
βMNVPRPk =
gTk gk-
gTkgk-1
gk-1 2
·gk-1( )
max gk-1 2,tdTk-1yk-1,θgTkdk-1{ }
(9)
其中 θ>1,t>1.记由式(2)(3)(8)确定的方法为
MVNPRP方法.
为了得到新方法的全局收敛性,对目标函数进
行一般假设:
(A1)f(x)在水平集 Ω={x∈Rn f(x)≤f(x0)}
有界,其中x0∈Rn是初始点.
(A2)f(x)在水平集 Ω的一个领域 N内连续可
微,并且梯度 gk满足 Lipschitz连续,即存在常数 L>
0使得式 g(x)-g(y)≤L(x-y),x,y∈N成立.
此处用标准沃尔夫线搜索:
f(xk+αkdk)-f(xk)≤ δαkgTkdk
g(xk+αkdk)T
文档评论(0)