非线性规划方案的理论与算法.pdfVIP

第五章非线性规划：理论和算法

5.5约束优化

咱们当前继续讨论更普通有约束线性优化问题。别，咱们考虑一种具备非线性目的函

数和(或者)非线性约束优化问题。咱们可以将这种问题表达为下面普通形式：

min,/(x)

gj(x)=O,i££(5.10)

gj(x)NO,iwI

在本节末尾，咱们假设/和ieeul所有是持续可微。

拉格朗日函数是研究有约束优化问题一种重要工具。为了定义这个函数，咱们结合每个

约束乘子4一一称作拉格朗日乘子。对于问题(5.10)拉格朗日函数如下定义：

L(x,/l):=/(幻一工4处⑶(5.H)

本质上，咱们考虑是目的函数违背了可行约束时惩罚函数。选取适当4,最小化无约

束函数等价于求解约束问题(5.10)o这就是咱们对拉格朗口函数感兴趣最主线因

素。

与这个问题有关最重要问题之一是求解最优问题充要条件。总之，这些条件称为最优性

条件，也是本节目。

在给出问题(5.10)最优性条件之前，咱们先讨论一种叫做正则性条件，由下面定义给

出：

定义5.1：设向量X满足3(x)=O,i££和岛(x)NO,i£l.设Jul是使得应)20

等号成立指标集。x是问题(5.10)约束条件正则点，如果梯度向量▽*)(zeJcI)

互相线性无关。

在上述定义中与eU，相应约束，即满足(幻=0约束称为在1点处有效约束。

咱们讨论第一章提到两个优化概念，局部和全局。回顾(5.10)全局最优解向量一,

它是可行并且满足/(X)/(x)对于所有x都成立。相比之下，局部最优解/是可行并且

满足对于卜：卜一Vc}(e0)成立。因而局部解一定是它邻域可行点

中最优。下面咱们考虑最优性条件仅仅鉴别局部解，则也许是全局最优解，也也许不是。幸

运是，这里存在一类局部最优解和全局解一致问题一一凸优化问题。附录A中讨论就是基于

凸集凸优化问题。

定理5.1(一阶必要条件)设/是问题(5.10)局部最小值，假设『是这个问题约束

正则点。则存在4，使得：

V/(x)-^2V^.(/)=0(5.12)

re^Ul

A0,zeI(5.13)

4gj(x)=O,，£【(£.14)

注意，(5.12)左边表达意思是拉格朗日函数“x,4)对每个变量/梯度。一阶条件在

局部最小值，局部最大值及鞍点处满足。当目的函数和约束函数是二次持续可微时候，可以

用函数曲率排除最大值和鞍点。依照定理5.1,咱们考虑拉格朗日函数L(尤;1)和这函数

对每变显x海森矩阵，来计算目的函数和约束函数在当前点处曲率。

定理5.2(二阶必要条件)假设函数/和(i££7I)都是二次持续可微。假设/

是问题(5.10)局部最小值并且是这问题约束正则点。则存在4，满足(5