函数的极值条件.docxVIP

函数的极值条件 、? 、 ▲ 刖5 我们处理的各种优化问题可以大致分为两类：有约束的优化问题 和无约束的优化问题。工程优化问题往往都是有约束的，但经过适当 的处理可以用无约朿的优化方法加以解决。因此无约朿极值点存在的 条件是优化理论的基本问题。 关键字：无约束有约束优化 求解无约束优化问题的实质是求解目标函数f(x)在n维空间屮 的极值。我们先来看看一元函数的极值条件。 1?无约束优化问题的极值条件 1.1 一元函数的极值条件 由高等数学可知，任何一个单值、连续、可微的一元函数f(x)在 给定区间内某点兀=疋有极值的必要条件，是它在该点处的一阶导数 广(疋)=0 即函数的极值必须在驻点处取得。此条件是必要的，但不是充分的, 也就是说驻点不一定就是极值点。如图?所示，x = 0是驻点，但 图 1.1-1 其中图a中的疋点是极小值点，而图b中的疋并不是极值点。驻点是 否为极值点，还需要函数在该点的二阶导数来判断。 驻点为极小值点的充分条件是，疋满足不等式： f（xj 0 驻点为极大值点的充分条件是，疋满足不等式： 厂（疋） 0 若： /? 〃（疋）=0 则疋是否为极值点，还需要逐次检验其更高阶导数的符号。开始不为 零的导数阶数为偶数，则为极值点；若为奇次，则为拐点，而不是极 值点。 1.2二元函数的极值条件 对于二维无约束优化问题，即对二元函数 f(x) = f(%i , X2) 来说，若在X* (竝，龙)处取得极值，其必要条件是: Ofg, X2)_df(X\, %2 Ofg, X2)_df(X\, %2), _c 心珀_ u dx2 写成梯度形式可得: dxr dxr Ofg x2) _ df(x^ x2\ H _ 了二 \x2=x^ - u dx2 恥)=气迫吟f o dxr dx2 为推得二元函数极值存在的充分条件，将二元函数f(x)在驻点 疋=［对，对卩作泰勒二次近似展开，得到近似表达式为: 1 f(x) = f(x*) + [Vf(x*)]r(x — %*) + - (% — x*)TV2f(x*)(x — %*) J 因为驻点满足Vf(x*) = 0,故由上式可得: 1 f(x) — f(x*) = -(% — x*)TV2f(x*)(x — X*) J 当f(x) - f(x*) 0,则由上式可知,应有: 1 -(% — x*)TV2f(x*)(x — %*) 0 J 此时，疋为极小值。而为使上式成立，根据二次型的理论可知，只耍 Hessian矩阵护f(疋)为正定矩阵。故由此可得二元函数极小值存在的 充分条件为: V2f(x*) 0 仿此可推得二元函数极大值存在的充分条件为: V2f(x*) 0 13多元函数的极值条件 由之前对二元函数的极值条件的推导不难将二元函数极值存在 的充分必要条件推广至n元函数。n元函数f(g %2,……,心)在点 疋存在极值的充分必要条件为: 条件 1： Vf(x*) = 0 条件2：当V2f(%*) 0时,疋为极小值点;而当V2f(x*) 0时, 疋为极大值点。 条件1为极值存在的必要条件；条件2为极值存在的充分条件。 图1.2-1表示满足极值存在的必要条件的驻点不是极值点而是鞍 点的情况。 图 1.2-1 2 ?有约束优化问题的极值条件 求解约束优化问题的极值条件的实质是在所有约束条件所形成 的可行域内，求得目标函数的极值点。因而约束优化问题比无约束优化问题更为复杂。因为约束优化问题的极值点不仅与目标函数的性态 有关，而且还与约束条件的性态密切相关，它可能与目标函数的极值 点重合（如图所示），也可能不是目标函数的极值点（如图2?lb 所示）。 图2-la表示的是有四个不等式约束的二维约束优化问题。其目 标函数是凸函数，且目标函数的极值点疋处于可行域内，故疋即为该 约束优化问题的极值点。图2?lb所示的目标函数和约束丙数都是凸 图2-1 函数。约束边界g（x） = 0与目标函数的等值线疋点相切，而目标函数 的自然极值点隔到了可行域之外。因此，此约束优化问题的极值点不 是目标函数的自然极值点，而是切点疋。若目标函数或约束函数的性 态不同，致使求解约束优化问题带来许多困难。为了研究约束优化问 题的求解方法，有必要介绍约束优化问题的极值条件。先阐述等式约 束优化问题的极值条件，然后导出不等式约束优化问题的极值条件。 2.1等式约束优化问题的极值条件 求解等式优化问题： minf（X） s.t.h/XX） = 0 （k = 1, 2, /） 需要导岀极值存在的条件，这是求解等式约束优化问题的理论基 础。一般处理这一类问题有两种方法：消元法（降维法）和拉格朗H 乘子法（升维法）。 2.1.1消元法 二元函数只有一个等式约束的简单情况： %2） S.匚/1（兀一 %2） = 0