运筹学 第八章 约束最优化方法.docxVIP

第八章约束最优化方法 无约束优化方法是优化方法中最基本最核心的部分。但是，在工程实际中，优化问题大都是属于有约束的优化问题，即其设计变量的取值要受到一定的限制，用于求解约束优化问题最优解的方法称为约束最优化方法。由于约束最优化问题的复杂性，无论是在理论方面的研究，还是实际中的应用都有很大的难度。目前关于一般的约束最优化问题还没有一种普遍有效的算法。本书重点介绍几种常用的算法，力求使读者对这类问题的求解思路有一个了解。 8.1约束优化方法概述 一、约束优化问题的类型根据约束条件类型的不同可以分为三种，其数学模型分别如下： 等式约束优化问题考虑问题 minf(x) s.t.七(x)=0j=1,2,...,l其中，f(x),hj(x),j=h2，..」为RntR上的函数。记为(fh)问题。 不等式约束优化问题 考虑问题 minf(x) s.t.g.(x)0i=1,2,...,m 其中，f(x),g.(x),i=1,2,...,m为RntR上的函数。记为(fg)问题。 3)一般约束优化问题 minf(x) Jg(x)0i=1,2,L,mS1[h(x)=0j=1,2,L,l 其中，f(x),g.(x),七(x),i=1,2,Lm;j=1,2,..,I为RntR上的函数。记为(fgh)问题。 二、约束优化方法的分类 约束优化方法按求解原理的不同可以分为直接法和间接法两类。 1)直接法 只能求解不等式约束优化问题的最优解。其根本做法是在约束条件所限制的可行域内直接求解目标函数的最优解。如：约束坐标轮换法、复合形法等。 其基本要点：选取初始点、确定搜索方向及适当步长。搜索原则：每次产生的迭代点必须满足可行性与适用性两个条件。可行性：迭代点必须在约束条件所限制的可行域内，即满足g.3）0,i=1,2,...,m 适用性：当前迭代点的目标函数值较前一点的目标函数值是下降的，即满足F（x（k+i））F（x（k）） 2）间接法 该方法可以求解不等式约束优化问题、等式约束优化问题和一般约束优化问题。其基本思想是将约束优化问题通过一定的方法转化为无约束优化问题，再采用无约束优化方法进求解。如：惩罚函数法。 三、约束优化问题的最优解及其必要条件1）局部最优解与全局最优解 对于具有不等式约束的优化问题，若目标函数是凸集上的凸函数，则局部最优点就是全局最优点。如图8.1（a）所示，无论初始点选在何处，搜索将最终达到唯一的最优点。若目标函数或可行域至少有一个是非凸性的，则可能出现两个或更多个局部最优点，如图8.1（b）所示，此时全局最优点是全部局部最优点中函数值最小的一个。 （a）（b）图8.1局部最优解与全局最优解示意图 对于具有等式约束的优化问题，若出现两个或两个以上的局部最优点，此时全局最优点是全部局部最优点中函数值最小的一个。 对于具有一般约束的优化问题，若出现两个或两个以上的局部最优点，此时全局最优点是全部局部最优点中函数值最小且同时满足等式约束与不等式约束的一个。例如：设数学模型为minfG)=G-1*+x2fg(x)=-x-20 s.t.h(x)=(x-2)2-x2-9=0x=\xxIeDuR2I12 该优化问题的最优点如图8.2所示，对于这两个局部最小点xi*=[-1,0L,x2*=15,0L，其函数值不同，f(气*)=4,f(x2*)=16。全局最优点为xi*=L1，0^,f*=4。 图8.2最优解示意图二)起作用约束与不起作用约束 对于一般约束优化问题，其约束分为两类：等式约束和不等式约束。在可行点x(人)处，对于不等式约束，若g,(x(k))=0，则称第个约束g,(x)为可行点的起作用约束；否则，若g,(x(k))0，则称g,(x)为可行点的不起作用约束。即只有在可行域的边界上的点才有起作用约束，所有约束对可行域内部的点都是不起作用约束。对于等式约束，凡是满足该约束的任一可行点，该等式约束都是起作用约束。如图8.3所示 图8.3起作用约束与不起作用约束示意图结论： 1、约束优化问题的最优解不仅与目标函数有关，而且与约束集合的性质有关。 2、在可行点x(Q处，起作用约束在该点的邻域内不但起限制可行域范围的作用，而且还可以提供可行搜索方向的信息。 3、由于约束最优点一般发生在起作用约束上，不起作用约束在求解最优点的过程中，可以认为是无任何影响，所以可以略去不起作用约束，把所有起作用约束当作等式约束问题求解最优点。 8.2库恩-塔克(Kuhn-Tucker)条件 8.2.1等式约束优化问题的最优性条件我们下面先回顾高等数学中所学的条件极值问题： 在43,y)=0的条件下，求函数z=f(x,y)的极值。即minf(x,y)s.rq(x,y)我们首先引入Lagarange乘子人，构造拉格朗日(Lagarange)函数L(x,y;入)=f(x,y)+X