有约束极值问题.pptVIP

§1 最优性条件 2 障碍函数法（内点法） 考虑约束问题 利用目标函数和约束函数组成辅助函数，称为障碍函数P（X）。 对于障碍因子 ，选择为一个趋向无穷大的严格减小趋于零的数列 从可行点出发，逐个求解 （1）或（2）。 * * 第八章 有约束极值问题 一、基本概念 1 起作用约束 是(I)的可行解，若 则称 为 处的起作用约束。记 处 起作用约束的下标集 2 可行方向 记 或 时有 称 为 处的可行方向 为（I）或（II）的可行域 若 是 的任一可行方向，则有 3 下降方向 时有 称 为 处的下降方向 若 是 的任一下降方向，则有 若 既满足（1）式又满足（2）式则称 为 的下 降可行方向 定理1 为（I）的局部极小值点， 在 处可微， 在 处可微 在 处连续 则在 处不存在可行下降方向。即不存在向量 同时成立 二、最优性条件 1、Gordan引理 设 为 个 维向量，不存在向量P 使得 成立 的充要条件是存在不全为零的非负数，使得 成立 2、Fritze John定理 (I) (3) 1 (4) (5) (6) 该定理给出了非线性规划 的(局部)最优点应满足的必要条件。 该条件称为 Fritz John条件，满足这个条件的点称为Fritz John点。 3　Kuhn-Tucker条件 设x*是非线性规划（I）的局部极小点 有一阶连续偏导 而且X*处的所有起作用约束梯度线性无关， 则存在数 使得 （6） 成立 成立 （3） （3） 中各式的两边， （6） 若x*是非线性规划(II)的局部极小点， 且x*点的所有起作用约束的梯度 和 线性无关。则存在向量 使得 （7） 其中 称为广义拉格朗日(Lagrange)乘子。 库恩—塔克条件是确定某点为最优点的必要条件，只要是最优点．且此处起作用约束的梯度线性无关。就必须满足这个条件。但一般说来它并不是充分条件，因而，满足这个条件的点不一定就是最优点。 可是，对于凸规划，库恩—塔克条件不但是最优点存在的必要条件，它同时也是充分条件。 某非线性规划的可行解x*，假定此处有两个起作用约束， 若x（k）是极小点，则 必处于 的夹角之间 不然，x（k）点处必存在可行 下降方向，它就不会是极小点。 举例： 例１求 的极大值点。并验证其是否为K-T点。说明理由。 解： 1 如上图所示，阴影部分为可行域R，红色直线为目标函数的等值线。显然最大值点为（1，0）。 R 将原问题标准化 K-T条件 （1） （2） （3） （5） （4） （1）式为 代入上式，得： 故 不是K-T点。 的起作用约束为 线性相关 不是K-T点。 自己验证 是F-J点。 例2 用K-T条件，求解非线性规划 解：1 验证该问题为凸规划 原问题标准化为 半正定， 负定 是凸函数 是凹函数 故该问题为凸规划。 所以 2 求K-T点 该问题的K-T条件为 （1） （2） （3） （4） 是K-T点 (i) (ii) （5） (iii) 将求出的 带入（6）式都不满足 故该问题有唯一的K-T点 即为极小值点， 三、Wolfe对偶问题 1 定义 令 设 或 为凸规划 或 则Wolfe对偶问题为： 2 线性规划的Wolfe对偶问题 Wolfe对偶问题 §2 二次规划 1 二次规划模型（目标函数第二项为正定二次型） K-T 条件中第一个条件为 约束条件 化为等式 故 K-T 条件中第二个条件为 显然。 （2）-（4）的解即为二次规划的解。 为了求解（2）-（4），在（2）式中引入人工变量将其转化为线性规划问题。 在求解上述线性规划时，要求 至少有一个为零。 当（*）的最优解中 时，其中 即为二次规划（1）的最优解。 例1求解二次规划 解：将上述二次规划改写为 可知目标函数为严格凸函数。 或 且 §3 可行方向法 可行方向法可看作无约束下降算法的自然推广，其典型策略是从可行点出发，沿着下降的可行方向进行搜索，求出使目标函数值下降的新的可行点．算法的主要步骤是选择搜索方向和确定沿此方向移动的步长．搜索方向的选择