6约束优化方法解析.pptVIP

其相应的无约束问题的最优解均在可行域的内部. 因此,罚函数法也称为内罚函数法. 对于约束优化问题： 内点罚函数的统一表达式为 罚因子为递减正序列。 2 内点罚函数的统一表达式 3 内点罚函数法流程框图 开 始 输入：r(0), X(0), c, ?1, ?2 k=0 以X(k)为初始点， min p(X,r(k)) 得： X(k＋1) ?? X(k＋1) －X(k) ????1 N r(k＋1) =cr(k) k =k ＋1 ?P(X(k＋1) ,r(k+1))-P(X(k) ,r(k))? ??2 Y N Y 输出 X(k＋1) F(X(k＋1)) 结 束 5 内点罚函数法的特点 4 内点罚函数法的参数选取 r(k＋1) =cr(k) c=0.1~0.2 r(0) =1 X(0) 可行域内部 1. 初始点可行； 2. 迭代在可行域内部； 3. 最终点可行； 4. 只含不等式约束。 对于约束优化问题： 混合罚函数的统一表达式为 罚因子为递增正序列。 四、混合罚函数法 五、外推技术 为了减少迭代次数，可以利用前几次计算到的罚函数的无约束极值点，按曲线拟合的方法，构造罚函数的无约束极值点的轨迹函数，然后推算出下一个罚因子对应的无约束极值点。 第六节 增广乘子法 罚函数法的主要缺点在于需要惩罚因子趋于无穷大，才能得到约束问题的极小点，这会使罚函数的Hesse矩阵变得病态，给无约束问题的数值求解带来很大困难。为克服这一缺点,Hestenes和Powell于1964年各自独立地提出乘子法。 一、拉格朗日乘子法 考虑约束问题 针对不等式约束引入p个松弛变量zu，将不等式约束变为等式约束，即 拉格朗日方程： 求解约束优化问题极值点X*应满足的Kuhn－Tucker条件 可得最优解。但数值稳定性差，计算量大。 二、增广乘子法的基本思想 考虑约束问题 将拉格朗日乘子法与外点罚函数法结合，形成增广乘子函数 原约束优化设计问题转化为求增广乘子函数的无约束极小解。 对于增广乘子函数，如果知道最优乘子，只要取足够大的罚因子r，而不必趋向无穷大，就可通过求增广乘子函数的无约束极小解获得原约束优化设计问题局部最优解。 将拉格朗日乘子法与外点罚函数法比较，可以看出，增广乘子函数中增加了乘子项： 而与拉格朗日函数法比较，增广乘子函数中增加了在惩罚项： 三、增广乘子法与拉格朗日乘子法的等价关系 四、增广乘子法迭代公式 由于最优乘子未知，因此先给定充分大的罚因子r和乘子的初步估计值，然后在迭代过程中修改乘子，力图使其趋向最优值。 如果乘子序列不收敛，或收敛太慢，则增大罚因子r，继续迭代。 五、增广乘子法计算框图 * 第五章 约束优化方法 第一节 概述 第二节 随机试验法 第四节 可行方向法 第五节 罚函数法 第六节 增广乘子法 第三节 复合形法 第七节 广义简约梯度法 第八节 约束变尺度法 第一节 概 述 一、求解问题 二、方法分类 间接法：构造一个新的目标函数，将原约束优化问题，转化为无约束优化问题，通过求解无约束优化问题，间接获得约束优化问题的最优解 直接法：在可行域内，通过构造一定的搜索模式，直接求得约束问题的最优解。 属于直接法的有：随机试验法，随机方向法，约束坐标轮换法，复合形法，可行方向法，简约梯度法，约束变尺度法等。 属于间接法的有：罚函数法，乘子法等。 第二节 随机试验法 一、基本思想 又称为Monte－Carlo法。其基本思想就是对于不含等式约束条件的优化问题： 利用计算机产生在可行域D内产生K个可行点，对目标函数值进行排序，记录目标最小值和对应的设计点，完成第一批抽样试验。重复抽样试验，直到每批抽样试验所得的目标最小值和对应的设计点不在明显变动时，则可认为已按概率收敛于最优解。 x2 x1 二、随机点的产生 其中 为[0，1]均匀分布的随机数 第三节 复合形法 一、基本思想 复合形法是求解约束优化问题的一种较常用的直接法，基本思想就是对于不含等式约束条件的优化问题： 在可行域D内产生K（＝n+1~2n）个可行点，作为顶点，构成复合形，通过对复合形进行翻转、收缩等运算，使其逐渐收敛于约束最优解。 二、几何说明 三、算法流程 输入n，a、b， k， ?。 构成初始复合形：{X(1), X(2),…… X(k)} 求 最坏点Xh:f(Xh)=max{f(