不等式约束问题.ppt

一般性优化问题的罚函数法（外点法） 对于一般性优化问题 构造加上惩罚项的目标函数 外点法就是求解下述无约束问题逼近原问题的解 其中 不等式约束优化问题的障碍函数法（内点法） 对于一般性不等式约束优化问题 构造加上障碍函数项的目标函数，如 可以从可行解开始求解下述无约束优化问题逼近 原问题的解 拉格朗日（Lagrange）对偶问题 对于附加约束子集的一般性优化问题 定义拉格朗日对偶问题为 其中 例、 原问题 所以拉格朗日对偶问题为 则 仍然考虑原问题 所以拉格朗日对偶问题为 如果不定义附加子集，即 ，则 弱对偶定理 如果 是原问题的可行解， 是对偶问题可行 解，那么一定成立 理由： 因为 ， 所以 又因为 ，所以 推论 是原问题的可行解 并且 是对偶问题可行解 如果 是对偶问题的最优解 是原问题的最优解 那么 非线性不等式约束问题可行下降方向的存在性定理 其中 如果 （等价于方程组无解）或者 有小于0的分量，一定存在 满足 ，令 根据线性和非线性不等式约束可行下降方向之间的关 系，此时在 处一定存在可行下降方向 考虑起作用约束构成的线性方程组 不等式约束优化问题最优解的必要条件 如果 是上述问题的局部最优解，线性方程 列线性无关 等价表述 结论 问题 条件 组 一定存在分量非负的解 如果 是上述问题的局部最优解，向量 一定满足线性方程组 ，并且其每个分量都不小于0 （Kuhn-Tucker条件） 一般性等式和不等式约束问题 假设条件：已知 满足 1） 2） 线性无关 优化模型 如果 是最优解，还必须满足什么条件？ 要回答的问题： 存在 的 个分量，记为 ，满足 线性无关 线性无关 线性无关 有逆矩阵 隐函数定理 邻域 以及在该邻域可导的函数 满足 如果 有逆矩阵，那么存在 的 例如，线性函数 当 有逆矩阵时 那么 和 就是下面原问题的局部最优解 记 如果 是下面不等式约束问题的局部最优解 由于 如果 是以上问题的最优解，所有起作用约束的梯度 线性无关 ，那么一定存在 满足 问题：1）如何用原问题的 表示以 上含有未知函数梯度的等式？ 2）假设条件能否保证上述梯度的线性无关性？ 的K-T条件 问题 1）的解决途径之一 问题 1）的解决途径之二 例如，线性函数 问题 1）的解决途径之三 将前面求出的梯度代入 记为 问题 1）的结论 问题2）的解决途径 线性无关 是否有非零解 上面等式方程的左边可写成 利用 令 已知 线性无关 线性无关 的K-T条件 如果 是上述问题的最优解，且满足： 则一定存在 和 成立 1） 2） 线性无关 Kuhn-Tucker定理 如果 是下述问题的最优解 并且在 处等式约束和所有起作用的不等式约束的梯度 线性无关，则一定存在 和 满足 标准线性约束的简约