《北邮最优化课件13惩罚函数法》教学课件.ppt

* 最优化理论 * 13.2 内点罚函数法 设x*是问题(13.2.1)的最优解. 又知 (13.2.8) * 最优化理论 * 13.2 内点罚函数法 故有 从而 (13.2.9) * 最优化理论 * 13.2 内点罚函数法 即 (13.2.10) * 最优化理论 * 13.2 内点罚函数法 * 最优化理论 * 13.2 内点罚函数法 * 最优化理论 * 13.2 内点罚函数法 则 上式必为等式.如若不然, 不趋于0, 矛盾。 此与 故 谢谢！ 最优化理论 * 最优化理论 * 帅天平 北京邮电大学数学系 §13， 罚函数法 最优化理论与算法 * 最优化理论 * 13 惩罚函数法 考虑约束问题 （13.1.1） 向量形式 其中 * 最优化理论 * 13 惩罚函数法 如何求解约束问题？ 可行方向法：沿下降可行方向搜索 其他方法？ 序列无约束优化算法：通过求解一系列无约束问题的解来近似约束问题的解。 罚函数法是序列无约束问题算法的典型代表。 * 最优化理论 * 13.1 外点惩罚函数法 但由于F在可行域D的边界不连续.因此难以直接由求解F的极小值来求问题(13.1.1)的极小点. 罚函数法的基本思想是构造辅助函数F,把原来的约束问题转 化为求极小化辅助函数的无约束问题 易见约束问题(13.1.1)的解等价于 的解 例如可以定义函数F:Rn?R为 * 最优化理论 * 13.1 外点罚函数法 于是构造辅助函数极为重要！！！ 外点法的基本思想是构造辅助函数 * 最优化理论 * 13.1 外点罚函数法 （13.1.2） 对于约束问题 于是(13.1.2)转化为: 可定义辅助函数: 参数?是很大的正数. * 最优化理论 * 13.1 外点罚函数法 对于不等式约束问题 (13.1.5) 可定义辅助函数: 参数?是很大的正数. 于是(13.1.2)转化为: * 最优化理论 * 13.1 外点罚函数法 对于一般形式的问题(13.1.1).可定义辅助函数 其中P(x)具有如下形式: 连续函数?和?满足 * 最优化理论 * 13.1 外点罚函数法 连续函数?和?的典型取法有 于是把约束问题(13.1.1)转化为无约束问题 其中?是很大的正数,P(x)是连续函数 * 最优化理论 * 13.1 外点罚函数法 该问题的可行域D=?-?,-1],最优解x*= -1 * 最优化理论 * 13.1 外点罚函数法 罚因子的选取非常重要!!! * 最优化理论 * 13.1 外点罚函数法 * 最优化理论 * 13.1 外点罚函数法 1.3 收敛性 证明:先证1 * 最优化理论 * 13.1 外点罚函数法 证2 (13.1.14) （13.1.15） * 最优化理论 * 13.1 外点罚函数法 将上两式的两端分别相加并整理得 (13.1.16) (13.1.17) 最后证3.: (13.1.18) * 最优化理论 * 13.1 外点罚函数法 由(13.1.17)和(1.18)可得: * 最优化理论 * 13.1 外点罚函数法 由(13.1.20)-(13.1.21)知(13.1.19)成立. * 最优化理论 * 13.1 外点罚函数法 Th13.1.3 设问题(13.1.1)的可行域S非空,且????,使得集合 证明:根据假设,S是紧集,f(x)是连续函数,因此问题(13.1.1)存在 * 最优化理论 * 13.1 外点罚函数法 于是 故可设: 根据P(x)的定义,当x?S,P(x)=0,当x?S,时,P(x)0. 由引理13.1.1和1.2可知, * 最优化理论 * 13.1 外点罚函数法 注意到(13.1.26),可以断言,对每个???.存在正整数 K(?),使得当kK(?)时有 . 由(13.1.16)可知 * 最优化理论 * 13.1 外点罚函数法 由(13.1.28)和(1.29)可知 * 最优化理论 * 13.1 外点罚函数法 另一方面,由于f(x)连续,则 又考虑到(13.1.24)和(13.1.30),则 * 最优化理论 * 13.1 外点罚函数法 于是 由(13.1.25)得 (13.1.33) * 最优化理论 * 13.2 内点罚函数法 13.2.1 基本思想 (13.2.1) 因此,此方法适用于下列不等式约束的问题: 记可行域为 内点法产生的点列从可行域的内部逼近问题的解 * 最优化理论 * 13.2 内点罚函数法 内点罚函数法的基本思想:构造辅助(光滑)函数 * 最优化理论 * 13.2 内点罚函数法 保持迭代点含于可行域内部的方法是定义障碍函数 其中B(x)是连续函数,当点x趋向可行域边界时,B(x)??. ?是很小的正数. 这样,当x趋向边界时,函数F(x,?)趋于无穷大;否则,由于?很小,则函数F(x,?)