约束优化最优性条件.pptVIP

* * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * HW: 8.6,8.7(P264) HW: 8.6,8.7(P264) 在K-T 中的条件 称为互补条件，它要求 和 至少有一个为零. 如果 我们则称严格互补条件成立。 前面定理中的条件(cq1)被称为约束规范条件。 如果约束规范条件(cq1)不成立，则问题(p)的局部极小点不一定是K-T点。 Fletcher(1987)给出下面的反例。 是全局极小点。 所以(cq1)不成立。 因而不可能存在 和 使得 成立. 上面例子说明约束规范条件的重要性。 由于条件(cq1)不容易直接验证，人们给出一些更强的，但容易验证的约束规范条件。 所有的 都是线性函数. (cq2) 根据定义， 推论 设 是问题(p)的一个局部极小点，如果(cq2) 成立，则 必定是一个K-T点. Mangasarian和Fromowitz(1967)给出的约束规范条件(cq3) 1) 线性无关； 2) 集合： 非空。 引理4 更强的约束规范条件(cq4) 线性无关。 引理5 定理2 设 是问题(p)的一个局部极小点，如果(cq4) 成立，则 必定是一个K-T点. (cq4)易于检验，上面的定理是一个最常见的也是最有用的关于一阶最优性条件的结果。 前面所讨论的都是关于必要性，下面讨论充分性条件。 定理3 设 如果 和 都在 处可微且 则 是问题(p)的局部严格极小点. 证明 若不然，则存在 使得 且有 不妨设 令 易证 根据定义 矛盾！ 推论 设 如果 和 都在 处可微且 则 是问题(p)的局部严格极小点. 在不作任何约束规范的假定下，John(1948)给出如下的必要性条件: 定理4 设 在包含可行域 的某一开集上连续可微，如果 是问题(p)的局部极小点， 则必存在 使得 证明 如果 线性相关，则显然定理为真。 故假定 线性无关。如果 是一非空集合，则利用引理4和定理1可知 是一K-T点，从而定理成立。 下面假定 是空集，则必存在 使得 且有 令 即证。 满足上面定理结论的点称为Fritz John点。 我们称下面的加权的Lagrange函数 为Fritz John函数。显然， Fritz John点是Fritz John函数的稳定点。 注意到 如果 则Fritz John函数可看成是Lagrange函数的 倍. 但当 Fritz John函数和目标函数无关，这时仅描述了 约束函数，不能显示原问题的最优性。 二阶最优性条件 假定 (1) (2) 由(1)，(cq1)和Farkas引理知 是一K-T点, 记 是相应的Lagrange乘子。由(2)知，存在 使得 因为 所以上式等价于 (3) 定义1 设 是K-T点, 是相应的Lagrange乘子。如果 定义2 设 是K-T点, 是相应的Lagrange乘子。如果 Lagrange乘子，则必有 Lagrange乘子， Lagrange乘子，如果 * * * * * 第八章 约束优化最优性条件 约束优化问题 一阶最优性条件 二阶最优性条件 约束优化问题 约束非线性优化问题： 目标函数，约束函数，等式约束优化问题，线性约束优化问题，二次规划… (p) 定义1 可行点， 可行域 X 约束条件 定义2 全局（总体）极小点，全局严格极小点 定义3 局部极小点，局部严格极小点 假设 是一个局部极小点，如果有 使得 则我们可将第 个约束条件去掉，且 仍是去掉第 个约束条件所得到的问题的 局部极小点。我们称第 个约束在 处是非积极的。 定义4 对任何 有效约束）， 称集合 是在 点的积极集合（或有效集合）， 是在 点的积极约束（或 是在 点的非积极约束（或 非有效约束）。 假定已知问题在解处的积极约束 我们只需求解如下的等式约束优化问题 一阶最优性条件 可行域上一个点是否为局部极小点取决于 目标函数在该点以及附近其它可行点上的 值。 可行方向在推导最优性条件起十分重要的 作用。 下面给出各种可行方向的定义。 定义1 设 如果存在 使得 则称 是 在 处的可行方向。 在 处的所有可行方向的集合记为 定义2 设 如果 则称 是 在 处的线性化可行方向。 在 处的所有线性化可行方向的集合记为 定义3 设 如果存在序列 则称 是 在 处的序列可行方向。 在 处的所有序列可行方向的集合记为 和 使得 且有 和 引理1 设 如果所有的约束函数都在 处可微，则有 现在考虑如下只有不等式约束情形： 引理2 设 是问题的局部极小点，如果 和