人民大2024孙怡帆 数据科学优化方法 PPT第9章 罚函数方法.pptxVIP

数据科学优化方法OptimizationMethodinDataScience统计学院孙怡帆

第9章罚函数方法9.1二次罚函数方法9.2障碍函数方法9.3增广Lagrange函数方法9.4数值实验

引入无约束最优化问题

引入无约束最优化问题负梯度方法牛顿方法

引入无约束最优化问题负梯度方法牛顿方法复杂问题简单化

引入？约束优化问题的求解往往比较麻烦，能否将将约束最优化问题转化为一系列无约束最优化问题，利用无约束优化问题的方法进行求解？

罚函数方法就是这样一类方法将约束以罚函数形式加到目标函数中

第9章罚函数方法9.1二次罚函数方法9.2障碍函数方法9.3增广Lagrange函数方法9.4数值实验

二次罚函数方法将约束优化问题转化为无约束优化问题，目标函数由以下两部分组成原约束优化问题的目标函数每个约束对应的约束函数：如果当前点??满足约束，则该项为0；如果不满足，则该项为正

二次罚函数方法对于仅含有等式约束的最优化问题

二次罚函数方法

二次罚函数方法

二次罚函数方法

二次罚函数方法

二次罚函数方法对于仅含有等式约束的最优化问题定义如下二次罚函数第二项为惩罚项，是惩罚参数.

(9.2)

二次罚函数方法仅非可行点的惩罚项非零，也称为外点罚函数方法.罚函数的极小点与约束优化问题的极小点不同，且常为约束优化