优化的数学基础教案资料.pptVIP

第二章 优化设计数学基础;本章内容;第一节 多元导数的方向导数与梯度;图2-1 二维空间中的方向;同理，三元函数的方向导数;图2-2 三维空间中的方向;二元函数的梯度;方向导数的几种形式：;图2-3 梯度方向与等值线的关系;当在 平面内画出 的等值 线;作业：求二元函数 在 处函数变化率最大的方向和数值。;多元函数的梯度;d方向上的方向导数;为梯度 的模。;图2-5 梯度方向与等值面的关系;多元函数的泰勒展开;其二阶偏导数矩阵：;作业 求二元函数 在 点处的二阶泰勒展开式。; 将二元函数的泰勒展开式推广到多元函时，则 在 点处泰勒展开式的矩阵形式为;若将函数的泰勒展开式只取到线性项，即取;第二节 无约束优化的极值条件;极值点，需要建立极值的充分条件。根据二元函数 在 点处的泰勒展开式??考虑上述极值必要条件，有;;该条件反映了函数在 处的各阶主子式大于0;多元函数的极值充分条件;函数的极小点和最小点;凸集;图2-8 凸集与非凸集; 凸集具有以下性质： （1）若A是一个凸集， 是一个实数， 是凸集A中的动点，即 ，则集合 还是凸集;这三个性质如图所示;凸函数;凸函数的定义; 下面给出凸函数的一些简单性质： 设 为定义在凸集 上的一个凸函数，对任意实数 ，则函数 也是定义在 上的凸函数。 设 和 为定义在凸集 上的两个凸函数，则其和 也是 上的凸函数。 对任意两个整数 和 ，函数 也是在 上的凸函数。;凸性函数;凸规划;第四节 等式约束优化的极值条件;消元法;拉格朗日乘子法; 把 个等式约束给出的 个 分别乘以;但 应是任意的量，则应有; 设 ，目标函数是 ，约束条件是 的 个等式约束方程。为了求出 的可能的极值点 ，引入拉格朗日乘子 ，并构成一个新的目标函数;第五节 不等式约束优化的极值条件;得到拉格朗日方程; 分析 可知，此时不是 ，就是 。当 时， ，约束起作用，即为 的情况。当 时， ，约束不起作用，即为 的情况。这个分析结果可表示为;分析极值点 在区间 中所处的位置，将会出现三种可能的情况：; 这和如下图所示的从几何概念分析的结果完全一致。;第六节 库恩—塔克条件;拉格朗日函数的极值条件; 库恩-塔克条件的几何意义是：在约束极小点处函数的负梯度一定能够表示成所有起作用的约束在该点梯度的非负线性组合。;图2-12 两个起作用的约束;图2-13 库恩—塔克条件的几何意义;K-T条件关于仅含不等式约束的二维问题的几何解释