求约束极值问题的修正共轭梯度投影法.pdfVIP

第 3O卷 第 4期 湘 潭 大 学 自 然 科 学 学 报 Vo1．3ONo．4 2OO8年 l2月 NaturalScienceJoumalofXiangtanUniversity Dec．2OO8 求约束极值 问题 的修正共轭梯度投影法 吴 烨 ， 彭 勇 (1．长沙理工大学 数学与计算科学学院，湖南 长沙 4lOO76；2．新南威尔士大学 工程学院，悉尼) [摘要] 针对带约束的非线性规划问题，提出一个修正共轭梯度投影算法，并且用不严格互补条件证 明了算法具备全局 收敛性和局部超线性收敛性；另一方面，算法的每步迭代只计算一次共轭投影矩阵，避免了求解二次规划或求两个投影 矩阵，因而算法在计算量上有所改进． 关 键 词 ：非线性规划；梯度投影法 ；超线性收敛 中图分类号 ：TP391 文献标识码 ：A 文章编号 ：lO0O一5900(2OO8】O4一O042一O6 AReVisedCoIIjugatePr0jlecti0nGradientMeth0d f0rN0nIinearInequalityC0nstrainedoptimizati0n Pr0bIem W U ， PENG y0g (1．ChangshaUniversityofScience Technol0gy-DepartmentofMathematics C0mputationScience。Changsha41OO76 2．University0fNew SouthWales，FacultyofEngineering．Sydney) 【Abstract】 lnthispaper。arevisedconjugatepr0jectiongradientmethodfornon1inearinequalityconstrain— edoptimizationproblem isproposed．Theauthorprovesthatthealgorithm issuper—hnearlywithoutstrict complementaryconditi0nunders0memildassumption．()ntheotherhand-theamountofcomputati0nisfe— wersincethegradientmatrixonlyneedstobecomputedonceineachiteration． Keywords： nonlinearprogramming；gradientpr0jection；super-linearconvergence． 拟牛顿法[1由于其超线性收敛性而成为求解无约束优化问题 的有效方法之一，目前拟牛顿法与其 他方法结合用于求此问题是拟牛顿法改进研究的重要方向之一．共轭梯度投影法与拟牛顿法的结合也 是其中一个方法 ，但这种方法在证明局部超线性收敛性时需要一个很强的严格互补条件作为假设 ，这是 非常难验证的一个条件．Bonnans和Launnay提出了一个不用严格互补条件且超线性收敛的方法 ，但此 方法的每步迭代都需要求解两个二次子规划，这使计算量大大增加．另一方面，在同一步迭代中约束牛 顿法的搜索方向一般是在改进的拟牛顿方向和梯度的投影类两个不同的方向中进行选择，这导致计算 量的增加．还有序列二次规划为了克服Maratos效应，算法需要进行高阶修正，这也导致计算量增加． 为了克服上述理论和计算量两方面的缺点，本文吸取文献[2～5]的思想，进一步讨论带等式和不 等式约束的非线性最优化问题，将共轭梯度法的思想与无约束最优化问题的拟牛顿法相结合，给出了一 个修正共轭梯度投影法．借用 e积极约束集技巧给出搜索方 向，并且不用严格互补条件证明了算法 的超 线性收敛性，尤其是每步迭代只计算一次共轭投影矩阵，从而在理论和计算量两方面都有所改进． 点 问题提 出及算法准备 1．1 问题提 出 文章考虑带约束的非线性优化问题 ： min{厂()：g() 0， ∈ J， ∈R }，