第五讲约束优化方法.ppt

第五章 约束优化方法 约束优化方法概述 约束优化问题的最优解及其必要条件 约束坐标轮换法 约束随机方向法 复合形法 惩罚函数法教学要求： 1、掌握约束优化局部最优解的必要条件。 2、掌握复合形法得原理及程序设计。 3、掌握内点法和外点法的惩罚函数的构造原理及程序设计。 约束优化方法概述 在工程实际中，优化问题大都属于有约束的优化问题，即其设计变量的取值要受到一定的限制，用于求解约束优化问题最优解的方法称为约束优化方法。 一、约束优化问题的类型 根据约束条件类型的不同可以分为三种，其数学模型分别如下： 1、不等式约束优化问题（IP型） 2、等式约束优化问题（EP型） 3、一般约束优化问题（GP型） 二、约束优化方法的分类约束优化方法按求解原理的不同可以分为直接法和间接法两类。 1、直接法 只能求解不等式约束优化问题的最优解。其根本做法是在约束条件所限制的可行域内直接求解目标函数的最优解。如：约束坐标轮换法、复合形法等。 其基本要点：选取初始点、确定搜索方向及适当步长。 搜索原则：每次产生的迭代点必须满足可行性与适用性两个条件。 适用性：当前迭代点的目标函数值较前一点是下降的，即满足  F(xk+1)F(xk) 5.1约束优化问题的最优解及其必要条件 5.1.1局部最优解与全局最优解 对于具有不等式约束的优化问题，若目标函数是凸集上的凸函数，则局部最优点就是全局最优点。如左图所示，无论初始点选在何处，搜索将最终达到唯一的最优点。否则，目标函数或可行域至少有一个是非凸性的，则可能出现两个或更多个局部最优点，如右图所示，此时全局最优点是全部局部最优点中函数值最小的一个。 对于具有等式约束的优化问题，若出现两个或两个以上的局部最优点，此时全局最优点是全部局部最优点中函数值最小的一个。 对于具有一般约束的优化问题，若出现两个或两个以上的局部最优点，此时全局最优点是全部局部最优点中函数值最小且同时满足等式约束与不等式约束的一个。例如：设数学模型为 该优化问题的最优点如下图所示，对于这两个局部最小点 x1*=[-1 0 ]T, x2*=[5 0 ]T ，其函数值不同，F(x1*)=4, F(x2*)=16 。全局最优点为 x1*=[-1 0 ]T F*=4 5.1.2 起作用约束与不起作用约束 对于一般约束优化问题，其约束分为两类： 等式约束、不等式约束。 在可行设计点x(k)处，对于不等式约束，若gi (x(k))=o，则称第i个约束gi (x)为可行点的起作用约束；否则，若gi (x(k))o ，则称gi (x)为可行点的不起作用约束。即只有在可行域的边界上的点才有起作用约束，所有约束对可行域内部的点都是不起作用约束。 对于等式约束，凡是满足该约束的任一可行点，该等式约束都是起作用约束。 5.2 约束优化问题极小点的条件 约束优化问题极小点的条件，是指在满足约束条件下，目标函数局部极小点的存在条件。 约束问题最优解的存在条件有两种：一是极小点在可行域内部，二是极小点在可行域的一个或几个边界交汇处。 5.2.1 不等式约束问题解的必要条件 第一种情况：如图所示， g1(x*)=0， g2(x*)0， g3(x*)0。所以g1(x)为起作用约束， g2(x)、 g3(x)为不起作用约束。 由于约束最优点是目标函数与约束g1(x)边界的切点，故目标函数与约束函数的梯度必共线，而且方向一致。 若取非负乘子?1*? 0，则在x*处存在如下关系 ? F(x*)- ?1*? g1(x*)=0 第二种情况：如图所示，若最优点位于两约束的交点上，则目标函数的梯度矢量夹于两约束函数梯度矢量之间。则目标函数的梯度可以表示为约束函数梯度的线性组合，若取非负乘子?1*? 0， ?2*? 0，则在x*处存在如下关系 ? F(x*)= ?1*? g1(x*)+ ?2*? g2(x*) 结论： 对于不等式约束优化问题，其最优解的必要条件为 5.2.2 等式约束问题解的必要条件