最优化方法4---约束最优化-(1).pptxVIP

最优化–约束;提纲;其可行域为：;其可行域为：;其可行域为：;?;?;?;?;?;?;函数

称为关于GP型问题的广义拉格朗日函数，式中

为拉格朗日乘子．

由于引入拉格朗日函数，一阶必要条件中的第一式可写为;?;?;?;?;例;?;?;间接法

罚函数法

外点罚函数法

内点罚函数法

混合罚函数法

乘子法

直接法

复合形法;对于GP型问题，罚函数法的基本策略是，根据约束特点（等式或不等式）构造某种“罚函数”，然后把它加到目标函数中去，使得对约束最优化问题的求解转化为对一系列无约束问题极小点或者无限地向可行域靠近，或者一直保持在可行集内移动，直到收敛于原来约束最优化问题极小点．;根据迭代算法中所构造的点列所处的区域的不同，罚函数法又分为四种：

外点罚函数法

内点罚函数法

混合罚函数法

乘子法;一、外点罚函数法基本原理

对GP型问题，构造一函数为

其中 ;在式（1）中，又称为惩罚函数

是一个逐渐增大的参数，称为惩罚

因子．又称为GP问题的增广目标函数．

显然，增广目标函数是定义在上的一个无约束函数．由增广目标函数的构造知：;?;外点罚函数法;外点罚函数法;外点罚函数法的流程如图所示：;例1求解

解:可以看出，本题的约束最优解为

现用外点罚函数法解这个约束优化问题

构造增广目标函数

由此解

得

给定一个罚因子,即可求得极小点,可以看出

不是可行点，且有;右图给出了不同时的轨迹．

例1可以帮助读者进一步理

解用外点罚函数法求极小点

序列时怎样收敛于约

束最优点．

;例2用外点罚函数法求

解:增广目标函数为

按阶跃函数的定义，

;对于，下图画出了的图形．由图可以看出，的极小点全不属于可行域．因此只须考虑的情况．;实际上，对于固定的，令

由此解得

这就是对于固定的，的极小点??

例如，当时，；

当时，；

当时，．

若令时，则

这里的就是例2的极小点．;三、外点罚函数法有关说明

在外点罚函数中，是通过一系列惩罚因子

求的极小点来逼近原约束问题的最优点．这一系列的无约束极小点将从约束可行域外部向约束边界运动，实际上，随着罚因子的增大，迫使惩罚项的值逐渐减小，从而使的极小点沿着某一运动轨迹逐渐接近等式约束面与起作用的不等式约束面上的最优点．当趋于无穷大时，的极小点就是原问题的最优点．;容易提出这样的问题：既然越大越好，那么迭代一开始

就把取得很大，似乎求解一次无约束问题就可以求

到约束问题的最优解，可以少解几次无约束问题．但是

可以证明，越大，增广目标函数的Hesse矩

阵的条件数越坏，给无约束问题求解增加越来越大的困

难，甚至无法求解．;因此，在迭代开始时又不得不把取得小一些．无疑，这增加了计算量，这正是外点罚函数法的弱点．此外，当在处无定义时，的性质变得很复杂．另一方面，由于外点罚函数法是从外迭代点逼近D内最优解，所以在寻优的过程中不能直接观察到D内点的变化情况，也无法求得近似最优解．;?;?;按照这种想法，对于

构造如下增广目标函数

其中，称为障碍因子，称为障碍函数．;内点罚函数法;但当迭代点靠近D