(最优化方法及应用郭科约束问题的最优性条件.docVIP

§2.7 约束问题的最优性条件 所谓最优性条件就是最优化问题的目标函数与约束函数在最优点处满足的充要条件．这种条件对于最优化算法的终止判定和最优化理论推证都是至关重要的．最优性必要条件是指在最优点处满足哪些条件；充分条件是指满足哪些条件的点是最优点．本节仅讲述最基本的结论． 一、约束最优解 对约束优化问题的求解，其目的是在由约束条件所规定的可行域内，寻求一个目标函数值最小的点及其函数值．这样的解称为约束最优解．约束最优点除了可能落在可行域内的情况外，更常常是在约束边界上或等式约束曲面上，因此它的定义及它的一阶必要条件与无约束优化问题不同． （一）约束优化问题的类型 约束优化问题根据约束条件类型的不同分为三种，其数学模型如下： （1）不等式约束优化问题（IP型） （2.16） （2）等式约束优化问题（EP型） （3）一般约束优化问题（GP型） （二）约束优化问题的局部解与全局解 按一般约束优化问题，其可行域为 ． 若对某可行点存在，当与它邻域的点之距离时，总有则称为该约束优化问题的一个局部最优解． 下面以一个简单例子说明．设有 该问题的几何图形如图2.8所示．从图上的目标函数等值线和不等式约束与等式约束的函数曲线可写出它的两个局部最优解．这是因为在点邻域的任一满足约束的点，都有；同理，亦然． １ 图2.8 对某些约束优化问题，局部解可能有多个．在所有的局部最优解中，目标函数值最小的那个解称为全局最优解． 在上例中，由于，所以全局最优解为． 由此可知，约束优化问题全局解一定是局部解，而局部解不一定是全局解．这与无约束优化问题是相同的． 二、约束优化问题局部解的一阶必要条件 对于约束，现在进一步阐明起作用约束与不起作用约束的概念．一般的约束优化问题，其约束包含不等式约束和等式约束．在可行点处，如果有，则该约束称可行点的起作用约束；而如果有，则该约束称可行点的不起作用约束．对于等式约束，显然在任意可行点处的等式约束都是起作用约束． 在某个可行点处，起作用约束在的邻域内起到限制可行域范围的作用，而不起作用约束在处的邻域内就不产生影响．因此，应把注意力集中在起作用约束上． （一）IP型约束问题的一阶必要条件 图2.9所示为具有三个不等式约束的二维最优化问题． 图2.9 图2.9（a）是最优点在可行域内部的一种情况．在此种情形下，点的全部约束函数值均大于零，所以这组约束条件对其最优点都不起作用．换句话说，如果除掉全部约束，其最优点也仍是同一个点．因此这种约束优化问题与无约束优化问题是等价的．图2.9（b）所示的约束最优点在的边界曲线与目标函数等值线的切点处．此时，，所以是起作用约束，而其余的两个是不起作用约束． 既然约束最优点是目标函数等值线与边界的切点，则在点处目标函数的梯度与约束函数梯度矢量必共线，而且方向一致．若取非负乘子，则在处存在如下关系 ． 另一种情况如图2.9（c）所示．当前迭代点在两约束交点上，该点目标函数的梯度矢量夹于两约束函数的梯度矢量之间．显然，在点邻近的可行域内部不存在目标函数值比更小的可行点．因此，点就是约束最优点，记作．由图可知，此时点目标函数的梯度可表达为约束函数梯度和的线性组合．若用代替即有 成立，且式中的乘子和必为非负． 总结以上各种情况，最优解的一阶必要条件为 对于（2.16）IP型约束问题的一阶必要条件讨论如下： 设最优点位于个约束边界的汇交处，则这个约束条件组成一个起作用的约束集．按上面的分析，对于点必有下式成立 （2.17） 但是在实际求解过程中，并不能预先知道最优点位于哪一个或哪几个约束边界的汇交处．为此，把个约束全部考虑进去，并取不起作用约束的相应乘子为零，则最优解的一阶必要条件应把式（2.17）修改为 （2.18） 式（2.18）为IP型问题约束最优解的一阶必要条件，它与式（2.17）等价．因为在下，对于起作用约束，必有使式（2.18）中的第四式成立；对于不起作用约束，虽然而必有，可见式（2.18）与式（2.17）等价． （二）EP型约束问题的一阶必要条件 图2.10所示为具有一个等式约束条件的二维化问题，其数学模型为 在该问题中，等式约束曲线是它的可行域，而且目标函数等值线与约束曲线的切点是该约束问题的最优解． 图2.10 在点处，目标函数的梯度与约束函数的梯度共线．因此，在最优点处一定存在一个乘子，使得 成立． 对于一般的维等式约束优化问题，其数学模型为 则为其解的一阶必要条件为 （三）GP型约束问题解的一阶必要条件 由上述不等式约束优化与等式约束优化问题的一阶必要条件，可以推出一般约束优化问题的条件． 设维一般约束优化问题的数学模型为 （2.19） 则为其解的一阶必要条件应为