6.约束最优化方法.pptVIP

* * 惩罚函数法的特点 惩罚函数法原理简单，算法易行，适用范围广，并且可以和各种有效的无约束最优化方法结合起来，因此得到了广泛的应用 但是惩罚函数法也存在不少问题，从理论上讲只有当r→∞（外点法）或r→0（内点法）时算法才能收敛，因此序列迭代过程收敛较慢。 另外，当惩罚因子的初值r0取值不合适时，惩罚函数可能变得病态，使无约束 最优化计算发生困难。 * * 四. 增广乘子法 随着近年来，对增广乘子法研究的不断深入，增广乘子法在计算过程中的数值稳定性，计算效率不断提高，都超过了惩罚函数法 目前增广乘子法在理论上得到了总结提高，在算法上也积累了不少经验，使得这种方法日益完善 增广乘子法以拉格朗日乘子法为基础 * * 拉格朗日乘子法 极值必要条件 拉格朗日函数 联立求解，可得极值点x*和拉格朗日乘子 * * 用拉格朗日乘子法求问题 构造拉格朗日函数 令?L＝0 * * 拉格朗日乘子法 缺点 对于非凸问题容易失败 对于大型的非线性优化问题，需求解高次联立方程组，其数值解法几乎和求解优化问题同样困难 还必须分离出方程组的重根 拉格朗日乘子法用来求解一般的约束优化问题并不是一种有效的方法 * * 等式约束的增广乘子法 基本原理 将惩罚函数法和拉格朗日乘子法结合起来 求解非凸问题容易失败 求解大型非线性方程组 分离方程的重根 计算效率低 * * 增广乘子函数 约束极值点 x* * 通常适用于仅