第6章 有约束最优化问题的间接法.pptVIP

* * 第6章 有约束优化问题的间接法 拉格朗日乘子法 内点惩罚函数法（内点法） 外点惩罚函数法（外点法） 混合惩罚函数法（混合法） 间接法基本思路为：将有约束的优化问题通过一定形式的变化转化为无约束最优化问题，再用无约束最优化方法求其最优解。由于这类算法可以选择较为有效的无约束优化方法，且易于处理同时含等式和不等式约束的优化问题，因此在实际中得到了广泛应用。 6-1 引 言 6-2 拉格朗日乘子法 拉格朗日乘子法是一种将有约束优化问题转化为无约束优化问题的间接优化方法。它通过引入一些称为乘子的待定系数，把给定的约束条件与待定乘子相结合，添加到原有的目标函数中，构成一个无约束优化问题的新目标函数（拉格朗日函数），根据函数的极值必定发生在它的一阶导数等于零处的原理，求出原问题的极小值或极大值。 6-3 惩罚函数的基本概念 惩罚函数法是将约束优化问题转化为一个等价的无约束优化问题的间接寻优方法。它类似于拉格朗日乘子法，在构造惩罚函数时，需要引入一个或几个可调整的惩罚因子，将原目标函数和约束条件经过加权处理组合成新的目标函数——惩罚函数。 对各新的目标函数进行一系列的无约束最优化计算，使各新目标函数的最优解逐步逼近原约束优化问题的最优解。可以证明，这种序列无约束最优化问题的解的极限，就是原来约束极小化问题的解。 6-4 内点惩罚函数法（内点法） 内点法是将惩罚函数定义在可行域内，并从可行域内某一初始点出发，在可行域内进行迭代的方法。它的最大特点是在给定一个初始可行的方案之后，通过迭代寻优，可以得到一系列可行的、逐步改进的及可任意选取的设计方案。 这对决策人员具有很大的可选灵活性，他既可以选择约束最优解 ，也可以根据具体情况，选择其中任何一个无约束最优解 。由于内点法的所有迭代点始终是在可行域内部进行的，因而它不能处理具有等式约束条件的优化问题。 6-5 外点惩罚函数法（外点法） 外点法是将惩罚函数定义在可行域之外，并在整个Rn中进行参数寻优。初始点可以任选，既可在可行域中，亦可在域外，这给设计人员和实际计算带来极大的便利。由于外点法是从约束可行域外逐步逼近约束极值点的，故它很适合于具有等式约束或不等式约束条件的优化问题。 1.惩罚函数的形式 2.外点法的迭代步骤 3．内点法与外点法的比较 内点法要求给出的初始点必须是可行点，而且一系列无约束最优点是从可行域内趋向约束最优点，每一迭代点都是可行点。所以对于工程设计，只要给出一个初始可接受的设计点后，它能产生一系列逐步改进的设计方案供设计者选择。 外点法对于初始点及每一迭代得到的迭代点都不要求是可行点，在迭代过程中也不能保证得出的点是可行的；但是可使非可行点逐步向可行域界面靠近，最后在可行域界面上得到约束最优点。 内点法只能处理不等式约束条件问题，对等式约束条件问题是不适用的；而外点法对处理等式约束和不等式约束问题都是适用的。 内点法中的惩罚项在界面上的可微阶数与目标函数、约束条件的可微阶数是相同的，因此其在求惩罚函数的最优解时，不受此方法对惩罚函数可微阶数要求的限制，原则上任何无条件极值的方法都可使用；而外点法在边界上可微性很差，其惩罚项的一阶偏微商存在，而且是连续的，但其二阶偏微商在边界上却不存在，所以在选择无约束优化方法上受到一定限制。 外点法只适用于最优点在约束边界上的情况，因为惩罚函数仅定义于可行域外部。若约束最优点在可行域内部，则由于搜索点不可能进入可行域内部而无法寻找最优点，此时可采用内点法。 无论内点法还是外点法，为了解一个约束问题，都需要进行一系列的无约束优化计算。这样工作量就很大，要花费很多计算时间，而且罚因子的选取对收敛速度影响较大；因此人们提出了许多改进的方法，如无参数惩罚函数法、采用外插技术加速收敛和构造精确惩罚函数法及乘子法等等。