[工学]2优化设计的数学基础.pptVIP

* 拉格朗日乘法是求解等式约束优化问题的另一种经典方法，它是通过增加变量将等式约束优化问题变成无约束优化问题。所以又称作升维法。 注意强调向量的概念。 * 拉格朗日乘法是求解等式约束优化问题的另一种经典方法，它是通过增加变量将等式约束优化问题变成无约束优化问题。所以又称作升维法。 注意强调向量的概念。 * 在工程上大多数优化问题都可表示为具有不等式约束条件的优化问题。因此研究不等式约束极值条件是很有意义的。受到不等式约束的多元函数极值的必要条件是著名的库恩——塔克（Kuhn-Tucker）条件，它是非线性优化问题的重要理论。 * 说明为什么要非负，因为要使其最小。 * 说明为什么要非负，因为要使其最小。 * 在工程上大多数优化问题都可表示为具有不等式约束条件的优化问题。因此研究不等式约束极值条件是很有意义的。受到不等式约束的多元函数极值的必要条件是著名的库恩——塔克（Kuhn-Tucker）条件，它是非线性优化问题的重要理论。 * 其中J为在x*处起作用约束下标的集合，因x*待求，所以J未知，只能根据各种可能情况进行试验。现按几种情况分析如下 * 这里是三个方程，两个未知数，属矛盾方程组，无解。所以不存在三个起作用约束的极值点。 需要讨论下一种情况 * 相当于图8中的A点。代回到第一个方程组，得 不满足非负要求，所以A点不是极值点。 * 满足非负要求，这样C点满足全部K-T条件，所以C点为极值点。 其它的约束条件的组合情况可以用同样的方法讨论，可以得到只有C点为该问题的约束极值点。 无约束极值条件，在极值点处有 在边界上 在边界内 对应的约束条件起作用 对应的约束条件不起作用 无约束极值条件，在极值点处有 库恩—塔克条件 表示成 梯度形式 库恩—塔克条件 上式表明库恩—塔克条件的几何意义是，在约束极小值点x*处，函数f(x)的负梯度一定能表示成所有起作用约束在该点梯度的非负线性组合 库恩—塔克条件扩展 对于同时具有等式和不等式的约束的优化问题 库恩塔克条件可表述为 例题：无约束优化问题 求函数的极值 首先，根据极值的必要条件求驻点 再根据极值的充分条件，判断其海赛矩阵是否正定 例题：等式约束优化问题 用拉格朗日乘子法改造目标函数 例题：库恩—塔克条件 此问题在设计空间平面上的图形如图所示，它的K-T条件表示为 例题：库恩—塔克条件(1)若g1,g2,g3在x*处都起作用 K-T条件中的第一个方程可写为 三个方程两个未知数属矛盾方程组 例题：库恩—塔克条件(2)若g1,g3在x*处都起作用 K-T条件中的第一个方程可写为 不满足非负要求 例题：库恩—塔克条件(3)若g1,g2在x*处都起作用 K-T条件中的第一个方程可写为 X1=－1不满足g3 满足非负要求 小结 多元函数的方向导数与梯度 多元函数的泰勒展开 无约束优化的极值条件 等式约束优化的极值条件 拉格朗日乘子法 不等式约束优化的极值条件 库恩—塔克条件 习题 * 机械优化设计一般是非线性规划问题，实质上是多元非线性函数的极小化问题。由此可见，机械优化设计是建立在多元函数的极值理论基础上。无约束优化问题就是数学上的无条件极值问题，而约束优化问题则是数学上的条件极值问题。微分学中所研究的极值问题仅限于等式条件极值，很少涉及优化设计中经常出现的不等式条件极值。 为了便于学习以后各章所列举的优化方法，有必要先对极值理论略作研究。本章重点介绍讨论等式约束优化问题的极值条件和不等式约束优化问题的极值条件。 * 第二章的优化设计的基本解法中，介绍数值迭代法的搜索方向时，指出所选择的方向应尽可能地指向目标函数的极小点。对于一个多元函数而言，函数沿着其变化率最大的途径向极值点逼近才是最快的。对于一个多元函数，可用偏导数的概念来研究函数沿着坐标方向的变化率。 二元函数的偏导数就是这个函数对一个自变量的变化率。一个二元函数在处的偏导数定义为 分别表示函数在x0处沿坐标轴x1和x2方向的变化率 对于n元函数，则函数在点处沿各坐标轴的一阶偏导数或变化率分别为 * 二元函数在处沿某一方向的变化率如图所示 称它为该函数沿此方向的方向导数。 由图中可以推导方向导数与偏导数之间的数量关系 * 即函数在处沿某一方向的方向导数等于函数在该点处的梯度与方向单位向量的内积。把向量之间的内积写成向量之间的投影形式， 其中表示梯度向量的模，表示梯度向量与方向夹角的余弦。由此可见，在点处函数沿各方向的导数是不同的，它随着变化即随着所取方向的不同而变化。显然其最大值发生在取值为1时，即梯度方向与方向重合时。由此可见梯度方向是函数值变化最快的方向，而梯度的模就是函数变化率的最大值。 * 图示为一个二元函数梯度方向与等值线的关系图。可以看到梯度方向即为函