运筹学-第八章-约束最优化方法.docVIP

PAGE / NUMPAGES 第八章 约束最优化方法 无约束优化方法是优化方法中最基本最核心的部分。但是，在工程实际中，优化问题大都是属于有约束的优化问题，即其设计变量的取值要受到一定的限制，用于求解约束优化问题最优解的方法称为约束最优化方法。由于约束最优化问题的复杂性，无论是在理论方面的研究，还是实际中的应用都有很大的难度。目前关于一般的约束最优化问题还没有一种普遍有效的算法。本书重点介绍几种常用的算法，力求使读者对这类问题的求解思路有一个了解。 8.1 约束优化方法概述 一、约束优化问题的类型 根据约束条件类型的不同可以分为三种，其数学模型分别如下： 1）等式约束优化问题考虑问题 其中，为上的函数。记为问题。 2）不等式约束优化问题 考虑问题 其中，为上的函数。记为问题。 3）一般约束优化问题 其中， 为上的函数。记为问题。 二、约束优化方法的分类 约束优化方法按求解原理的不同可以分为直接法和间接法两类。 1）直接法 只能求解不等式约束优化问题的最优解。其根本做法是在约束条件所限制的可行域内直接求解目标函数的最优解。如：约束坐标轮换法、复合形法等。 其基本要点：选取初始点、确定搜索方向及适当步长。搜索原则：每次产生的迭代点必须满足可行性与适用性两个条件。可行性：迭代点必须在约束条件所限制的可行域内，即满足 适用性：当前迭代点的目标函数值较前一点的目标函数值是下降的，即满足 2）间接法 该方法可以求解不等式约束优化问题、等式约束优化问题和一般约束优化问题。其基本思想是将约束优化问题通过一定的方法转化为无约束优化问题，再采用无约束优化方法进求解。如：惩罚函数法。 三、约束优化问题的最优解及其必要条件 1）局部最优解与全局最优解 对于具有不等式约束的优化问题，若目标函数是凸集上的凸函数，则局部最优点就是全局最优点。如图8.1（a）所示，无论初始点选在何处，搜索将最终达到唯一的最优点。若目标函数或可行域至少有一个是非凸性的，则可能出现两个或更多个局部最优点，如图8.1(b)所示，此时全局最优点是全部局部最优点中函数值最小的一个。 (a) (b) 图8.1 局部最优解与全局最优解示意图 对于具有等式约束的优化问题，若出现两个或两个以上的局部最优点，此时全局最优点是全部局部最优点中函数值最小的一个。 对于具有一般约束的优化问题，若出现两个或两个以上的局部最优点，此时全局最优点是全部局部最优点中函数值最小且同时满足等式约束与不等式约束的一个。例如：设数学模型为 该优化问题的最优点如图8.2所示，对于这两个局部最小点，其函数值不同，。全局最优点为。 图8.2 最优解示意图 二）起作用约束与不起作用约束 对于一般约束优化问题，其约束分为两类：等式约束和不等式约束。在可行点处，对于不等式约束，若，则称第i个约束为可行点的起作用约束；否则，若，则称为可行点的不起作用约束。即只有在可行域的边界上的点才有起作用约束，所有约束对可行域内部的点都是不起作用约束。对于等式约束，凡是满足该约束的任一可行点，该等式约束都是起作用约束。如图8.3所示 图8.3 起作用约束与不起作用约束示意图 结论： 1、约束优化问题的最优解不仅与目标函数有关，而且与约束集合的性质有关。 2、在可行点处，起作用约束在该点的邻域内不但起限制可行域范围的作用，而且还可以提供可行搜索方向的信息。 3、由于约束最优点一般发生在起作用约束上，不起作用约束在求解最优点的过程中，可以认为是无任何影响，所以可以略去不起作用约束，把所有起作用约束当作等式约束问题求解最优点。 8.2 库恩-塔克（Kuhn-Tucker）条件 8.2.1 等式约束优化问题的最优性条件 我们下面先回顾高等数学中所学的条件极值问题： 在的条件下，求函数的极值。即 我们首先引入乘子，构造拉格朗日（ ）函数 若是条件极值的极小点，则存在，使方程组 成立。 下面我们将其推广到多元函数情况，对于等式约束优化问题： 其中，为上的连续可微函数。 这里可行域为： 这是一个条件极值问题，对于该类问题，我们可以建立拉格朗日（Lagrange）函数进行求解。 其中，为拉格朗日乘子。 若是的最优点，则存在使 矩阵形式： 即可以表示为的线性组合。 下面以二维为例，时的最优性条件及几何意义如图8.4所示。 - -▽f(X ) X ▽h(X ) h(x) ▽f(x*) ▽h(x*) 图8.4 等式约束优化问题的最优性条件及几何意义 这里 x*——极小点， ▽f(x*)与▽h(x*)