非线性最优化超记忆梯度算法和GLP梯度投影算法的研究.pdf

摘 要 最优化方法是运筹学的一个重要组成部分，在自然科学，社会科学，生产实践，工 程设计和现代化管理中具有广泛的应用。很多实际问题都可以归结为最优化问题来解 决。最优化问题的一个核心是设计有效的算法。 本文研究非线性最优化中的超记忆梯度算法。首先给出求解无约束最优化问题的超 记忆梯度下降算法，研究了算法的全局收敛性，并对算法进行数值实验。其次结合Rosen 投影矩阵，广义投影矩阵和GLP投影等技术将无约束最优化问题的新的超记忆梯度算 法进行推广，对约束最优化问题设计超记忆梯度投影算法，并对算法进行收敛性分析和 数值实验。 论文的创新点有六个： 一．给出无约束最优化阆题中的三项记忆梯度算法中的参数的取值范围，以保证得 到目标函数的充分下降方向，设计求解无约束最优化问题的超记忆梯度下降算法，在去 掉迭代点列有界的条件下研究了算法的全局收敛性，并证明新算法在目标函数是凸，伪 凸，拟凸时具有较强的收敛性质。同时给出结合拟牛顿方程的三项记忆梯度算法，从而 给出需要向量存储且具有全局收敛性的拟牛顿算法的修正形式。数值例子表明算法是有 效的。 二．利用Rosen投影矩阵，建立求解带线性或非线性不等式约束优化问题的三项记 轭梯度参数的三项记忆梯度Rosen投影算法，从而将经典的共轭梯度法推广用于求解约 束规划问题．数值例子表明算法是有效的． 三．利用广义投影矩阵，建立求解非线性等式和不等式约束优化问题的一个三项 记忆梯度广义投影算法，并在较弱条件下证明了算法的收敛性．数值例子表明算法是有 效的． 四．利用广义投影矩阵与处理任意初始点的技巧结合建立求解非线性不等式约束 优化问题的一个初始点任意的三项记忆梯度广义投影算法，并在较弱条件下证明算法 的收敛性．数值例子表明算法是有效的． 五．对闭凸集约束的非线性规划问题构造了一个修正GLP梯度投影下降算法，在一 维精确步长搜索和去掉迭代点列有界的条件下分析了算法的全局收敛性，并证明了算 法具有较强的收敛性质．数值例子表明该算法是有效的． 六． 对闭凸集约束的非线性规划问题构造了一个修正GLP梯度投影下降算法，在 广义Armijo步长直线搜索下分析了算法的全局收敛性，并证明了算法具有较强的收敛 性质．数值例子表明该算法是有效的． 关键词：无约束优化，约束优化，超记忆梯度算法，投影，收敛，数值实验 ABSTRACT haswide isall of research．It method application O州mization partoperations important to science，socialscience，practical fields，suchas，natural many modem callbereducedto problems practical design，and management,etc．Many to isto efficient design problems problems．Thekeyinvestigatingoptimization optimization for it． solving al