机械优化设计的理论与数学基础NEW.ppt

二、 多元函数的Taylor 展开式 例题: 三、 二次型函数 * 矩阵A为正定的充要条件---A的各阶主子式均大于零。 2-2 等值（线）面 2)方向余弦 3)方向导数的计算 （2）过同心椭圆族的中心作任意直线与椭圆族中任意两椭圆相交，再过两交点所作相应椭圆的切线必相互平行。 2.共轭方向的基本概念 2)共轭方向的性质 3.构成共轭方向的方法 §2-3 凸集与凸函数 二、共轭方向 2) 正定二元二次函数的特点 （2）过同心椭圆族的中心作任意直线与椭圆族中任意两椭圆相交，再过两交点所作相应椭圆的切线必相互平行。 K-T条件是多元函数取得约束极值的必要条件,以用来作为约束极值的判断条件，又可以来直接求解较简单的约束优化问题。 简易证明： 由矩阵理论可知 因 故 二次型函数 例：求 的极小点。 解： 二、约束优化最优解的条件 1.约束优化问题的类型 （1）IP型（不等式约束优化问题） （2）EP型（等式约束优化问题） （3）GP型（一般约束优化问题） （2）对于整个可行域，恒有 ， 则X*为全局极小点； （1）对于X*在可行域中的一个邻域，恒有 ，则X*为局部极小点； 2局部极小点与全局极小点 3.IP型约束问题解的必要条件 等价于无约束优化问题 （1） （2）目标函数是凸函数,可行域是凸集，则目标函数等值线与适时约束曲面的切点为最优点，而且是全局最优点。 · F (x) · x* （3）迭代点位于两约束的交点上。 2.约束问题解的必要条件 推广至n维目标函数 （1）EP型 可表示为各约束函数梯度的线性组合。 对IP型优化问题，X*为最优解的条件为： 该问题共有P个约束，对于不起作用约束, 。 （2）IP型约束问题解的必要条件 (3).GP型约束问题解的必要条件 综合1、2两种情况，GP型约束问题解的必要条件为 上述条件称为库恩—塔克条件（K—T条件） 对于目标函数和约束函数都是凸函数的情况， 符合K-T条件的点一定是全局最优点。这种情况K-T条件即为多元函数取得约束极值的充分必要条件。 3.K-T条件的应用 ⅰ）进行可行性检查，找出起作用约束； ⅱ）对起作用约束求拉氏乘子，若 非负， 有确定值，则 X* 为 K-T 点。 —对X*进行检验 例：库恩—塔克（K-T）条件应用举例 s.t 判断[1 0]T是否为约束最优点。 (1)当前点 为可行点，因满足约束条件 (3) 各函数的梯度： （2）在 起作用约束为g1和g2 , 因 （4）求拉格朗日乘子 由于拉格朗日乘子均为非负，说明 是一个局部最优点，因为它满足K-T条件。 则函数在 处的最速下降方向是 例： 试求目标函数 在点 处的最速下降方向，并求沿这个方向移动一个单位长度后新点的目标函数值。 解： 由于 新点是 这个方向上的单位向量是： 二.共轭方向 *当n=2时， 1）矩阵表示 1.正定二次函数 也适于多元函数 2)正定二元二次函数的特点 （1）正定二元二次函数的等值线是一族同心椭圆，其中心坐标就是该函数的极小点。 * 几何意义: 经过线性变换A后成了与 正交的向量. 例： 设A为n×n阶正定对称矩阵， 是两个n维向量，若存在 则称 对A共轭。 1)定义 * 这种性质称为有限步收敛性（亦称二次收敛性） （2）从任意选定的初始点出发，只要依次沿n个共轭方向进行一维搜索，一轮后便可达到n元正定二次函数的极小点。 (证明见席少霖:《最优化方法》，P97） （1）若矢量系 彼此对正定对称矩阵A共轭，则它们组成线性无关的矢量系； 设 为平行于 的两条直线，则过这两直线上正定 n元二次目标函数的极小点 的向量 和 对Hession矩阵A共轭。 证明： 二次函数 其梯度为 因 分别为两直线上的极小点，故有 将上述两式相减 例：对于目标函数 ，给定