机械优化设计_第二章优化设计的数学基础分析.ppt

n元函数在点x0处沿d方向的方向导数 当梯度方向和d方向重合时，方向导数值最大，即梯度方向是函数值变化最快方向，而梯度的模就是函数值变化率的最大值。 多元函数的梯度 海赛矩阵的特征：是实对称矩阵。 结论： 二元函数在某点取得极小值的充分条件是要求该点处的海赛矩阵为正定。 且 对于二元函数 在 处取得极值的充分必要条件是： 参见教材例题P32 3、多元函数 对于多元函数 若在 处取得极值，则 必要条件： 充分条件： 正定 或负定 四、凸集、凸函数与凸规划 当极值点x*能使f(x*)在整个可行域中为最小值时，即在整个可行域中对任一x都有f(x)=f(x*),则x*为全域最优点（全域极小点）。若f(x*)为局部可行域中的极小值而非整个可行域的最小值时，则称x*为局部最优点或相对最优点。优化的目标是全域最优点。为了判断某个极值点是否为全域最优点，研究函数的凸性是必要的。 函数的凸性表现为单峰性。对于具有凸性特点的函数来说，其极值点只有一个，因而该点既是局部最优亦是全域最优点。 为了研究函数的凸性，下面引入凸集的概念： 1、凸集 如果对一切 及一切满足 的实数 ，点 则称集合 为凸集，否则称为非凸集。 y x2 x1 若y是x1和x2连线上的点，则有 整理后即得 凸集的性质： 若D为凸集， 为一个实数，则集合 仍是凸集； 若D和F均为凸集，则其和（或并）仍是凸集； 任何一组凸集的积（或交）仍是凸集。 2、凸函数 具有凸性（表现为单峰性）或只有唯一的局部最优值亦即全域最优值的函数，称为凸函数或单峰函数。其数学定义是： 设f(x)为定义在n维欧式空间中的一个凸集D上的函数，如果对于任何实数 以及对D中任意两点x1，x2恒有： 则 为D上的凸函数，若不满足上式，则为凹函数。如式中的等号去掉，则称其为严格凸函数。 凸函数的几何意义：在函数曲线上取任意两点连成一直线段，则该线段上任一点的纵坐标值必大于或等于该点处的原函数值。 凸函数的性质 1）若f(x)为定义在凸集D上的一个凸函数，对于任意实数a0，则af(x)也是凸集D上的凸函数； 2）定义在凸集D上的两个凸函数f1(x),f2(x)，其和f1(x)+f2(x)亦为该凸集上的一个凸函数； 3）若f1(x),f2(x)为定义在凸集D上的两个凸函数， 为两个任意正数，则 仍为D上的凸函数。 3、凸性条件 （1）根据一阶导数（函数的梯度）来判断函数的凸性 设f(x)为定义在凸集R上，且具有连续的一阶导数 的函数，则f(x)在R上为凸函数的充要条件是对凸 集R内任意不同两点 、 ，下面不等式恒成立。 （2）根据二阶导数（海赛矩阵)来判断函数的凸性 设f(x)为定义在凸集R上且具有连续二阶导数的函数，则f(x)在R上为凸函数的充要条件为： 海赛矩阵在R上处处半正定。对于严格的凸函数，其充要条件为海赛矩阵为正定。 当海赛矩阵G的主子式: det(G)＞0时，矩阵正定 det(G)≥0 时，矩阵半正定 det(G)＜0时，矩阵负定 det(G)≤0时，矩阵半负定 G(x*)正定， 是 x* 为全局极小值点的充分条件； G(x*)半正定, 是 x* 为局部极小值点的充分条件； G(x*)负定， 是 x* 为全局极大值点的充分条件； G(x*)半负定, 是 x* 为局部极大值点的充分条件。 说明： 4、凸规划 对于约束优化问题 若 、 都为凸函数，则称此问题为凸规划。 凸规划的性质： 2）可行域 为凸集。 3）凸规划的任何局部最优解就是全局最优解。 1）若给定一点 ，则集合 为凸集。 五、等式约束优化问题的极值条件 等式约束优化问题： 求解等式约束化问题的理论基础是导出极值存在的条件。 1、消元法（降维法） 2、拉格朗日乘子法（升维法） 思想: 通过增加变量将等式约束化问题变成无约束化问题。 引入拉格朗日乘子 ，并构成一个 新的目标函数 拉格朗日函数 拉格朗日乘子 新目标函数的极值的必要条件： 参见教材例题 六、不等式约束优化问题的极值条件 库恩—塔克条件（K-T条件） 不等式约束的多元函数极值的必要条件是著名的库恩—塔克（Kuhn-Tucker）条件,它是非线性优化问题的重要理论。 为了便于理解库恩—塔克