线性无关假设如何影响非线性约束最优化算法.pdfVIP

中国科学: 数学 2013 年 第43 卷 第2 期: 105 120 线性无关假设如何影响非线性约束最优化算法 刘新为 河北工业大学理学院, 天津 300401 E-mail: mathlxw@ 收稿日期: 2011-12-26; 接受日期: 2012-10-10 国家自然科学基金(批准号:和 和河北省自然科学基金 (批准号: A2010000011) 资助项目 摘要 首先综述非线性约束最优化最近的一些进展 首次定义了约束最优化算法的全局收敛性 注意 到最优性条件的精确性和算法近似性之间的差异 并回顾等式约束最优化的原始的 型算法框 架 即可理解为什么约束梯度的线性无关假设应该而且可以被弱化 这些讨论被扩展到不等式约束最 优化问题 然后在没有线性无关假设条件下 证明了一个使用精确罚函数和二阶校正技术的算法可具 有超线性收敛性 这些认知有助于接下来开发求解包括非线性半定规划和锥规划等约束最优化问题的 更加有效的新算法 关键词 逐步二次规划 内点方法 线性无关性 局部收敛性 二阶校正技术 主题分类 90C30, 90C31, 65K05, 65K10 1 引言 为简单起见 首先考虑等式约束最优化问题 f x cx , 其中 f n → 和 c n → m 是连续可微函数 且假定 c 中至少有一个分量函数ci 是非线性函 数 问题 的一阶最优性条件可以在任何一本非线性规划教科书上找到例如 为了本文的 完整性 重述如下 ∗ ∗ n ×m 定理 假定 x 是问题 的一个局部极小点 如果 ∇cx ∈ 列满秩 即向量组 ∗ ∗ ∗ m ∇c1 x , . . . , ∇cm x 线性无关 那么存在唯一的 乘子向量λ ∈ 使得 ∗ ∗ ∗ ∇f x ∇cx λ . 定理 是非线性规划的一个基本结果 它是非线性规划迭代方法的基础 并提供了迭代终止的 一个度量 问题 的一个满足条件 的可行点称为它的一个 点 乘子向量的第i 个分量也称为与约束函数ci 对应的在点x∗ 处的 乘子 然而 在求解问题 的所有迭代方法的实际运行中 一般找不到一个精确满足方程 的解 这意味着所有求解问题 的算法常常终止于某个被认为是x∗ 的近似的迭代点xk 且满足 ∥∇f xk ∇cxk λk ∥ ϵ, 英文引用格式 Liu X W. How does the linear independence assumption affect algorithms of nonlinear constrained optimization (in Chinese). Sci Sin Math, 2013, 43: 105–120, doi: 10.1360/012011-1037 刘新为: 线性无关假设如何影响非线性约束最优化算法 其中 λk 可看成是 乘子向量λ∗ 的估计 ϵ 是终止参数 ∥ · ∥ 可以是任何向量范数 因此 基于下列认知 一个算法常常认为是全局收敛的 定义 假定 {xk } 是由算法产生的一个迭代序列 如果 ∥cxk ∥ , k→∞ 且对于每个xk