第2章优化设计的数学基础总结.pptVIP

* 库恩—塔克条件是多元函数取得约束极值的必要条件，可用来作为约束极值的判断条件，又可以来直接求解较简单的约束优化问题。 对于目标函数和约束函数都是凸函数的情况，符合K-T条件的点一定是全局最优点。 这种情况K-T条件即为多元函数取得约束极值的充分必要条件。 * 例 库恩—塔克（K-T）条件应用举例 判断 是否为约束最优点？ K-T条件是多元函数取得约束极值的必要条件,以用来作为约束极值的判断条件，又可以来直接求解较简单的约束优化问题。 * 解： （1）当前点 为可行点，因满足约束条件 （2）在 起作用约束为 ，因 （3）求各函数梯度： * （4）求拉格朗日乘子 由于拉格朗日乘子均为非负，说明 是一个局部最优点，因为它满足K-T条件。 * 图13 应用库恩-塔克条件寻找约束极值点 * * * 令 则 可见，函数增量的性态与A,B,C的值有关。可以证明，当满足以下条件时， 为极小值（证明略）。 此条件反映了函数在该点的海赛矩阵的各阶主子式均大于零（即正定）。 * 结论： 二元函数在某点取得极小值的充分条件是要求该点处的海赛矩阵为正定。 且 对于二元函数 在 处取得极值的充分必要条件是： 参见教材例题P32 * 3、多元函数 对于多元函数 若在 处取得极值，则 必要条件： 充分条件： 正定 或负定 * 当极值点x*能使f(x*)在整个可行域中为最小值时，即在整个可行域中对任一x都f(x)=f(x*),则x*为全域最优点（全域极小点）。若f(x*)为局部可行域中的极小值而非整个可行域的最小值时，则称x*为局部最优点或相对最优点。优化的目标是全域最优点。为了判断某个极值点是否为全域最优点，研究函数的凸性是必要的。 §第四节 凸集、凸函数与凸规划 * 函数的凸性表现为单峰性。对于具有凸性特点的函数来说，其极值点只有一个，因而该点既是局部最优亦是全域最优点。 为了研究函数的凸性，下面引入凸集的概念： * 1、凸集 如果对一切 及一切满足 的实数 ，点 则称集合 为凸集，否则称为非凸集。 y x2 x1 若y是x1和x2连线上的点，则有 整理后即得 图2-8 二维空间的凸集与非凸集 * 凸集的性质： 若D为凸集， 为一个实数，则集合 仍是凸集； 若D和F均为凸集，则其和（或并）仍是凸集； 任何一组凸集的积（或交）仍是凸集。 图2-9凸集的性质 * 2、凸函数 具有凸性（表现为单峰性）或只有唯一的局部最优值亦即全域最优值的函数，称为凸函数或单峰函数。其数学定义是： 设f(x)为定义在n维欧式空间中的一个凸集D上的函数，如果对于任何实数 以及对D中任意两点x1，x2恒有： 则 为D上的凸函数，若不满足上式，则为凹函数。如式中的等号去掉，则称其为严格凸函数。 * 凸函数的几何意义：在函数曲线上取任意两点连成一直线段，则该线段上任一点的纵坐标值必大于或等于该点处的原函数值。 * 凸函数的性质 1）若f(x)为定义在凸集D上的一个凸函数，对于任意实数a0，则af(x)也是凸集D上的凸函数； 2）定义在凸集D上的两个凸函数f1(x),f2(x)，其和f1(x)+f2(x)亦为该凸集上的一个凸函数； 3）若f1(x),f2(x)为定义在凸集D上的两个凸函数， 为两个任意正数，则 仍为D上的凸函数。 * 3、凸性条件 （1）根据一阶导数（函数的梯度）来判断函数的凸性 设f(x)为定义在凸集R上，且具有连续的一阶导数 的函数，则f(x)在R上为凸函数的充要条件是对凸 集R内任意不同两点 、 ，下面不等式恒成立。 * （2）根据二阶导数（海赛矩阵)来判断函数的凸性 设f(x)为定义在凸集R上且具有连续二阶导数的函数，则f(x)在R上为凸函数的充要条件为： 海赛矩阵在R上处处半正定。对于严格的凸函数，其充要条件为海赛矩阵为正定。 当海赛矩阵G的主子式: det(G)＞0时，矩阵正定 det(G)≥0 时，矩阵半正定 det(G)＜0时，矩阵负定 det(G)≤0时，矩阵半负定 G(x*)正定， 是 x* 为全局极小值点的充分条件； G(x*)半正定, 是 x*