人民大2024孙怡帆 数据科学优化方法 PPT第10章 近端方法.pptxVIP

数据科学优化方法OptimizationMethodinDataScience统计学院孙怡帆

第10章近端方法10.1近端算子10.2近端极小化方法10.3近端梯度方法10.4加速近端梯度方法

引入？前面章节我们讨论的最优化问题中目标函数都是光滑的的，对于目标函数非光滑的复合最优化问题，该如何求解呢？

近端方法就是这样一类方法

引入近端方法是求解凸优化问题的一类重要方法，具有以下几个优点适用范围很广容易并行化易于理解、推导和实现适用于一些难以求解的最优化问题

第10章近端方法10.1近端算子10.2近端极小化方法10.3近端梯度方法10.4加速近端梯度方法

近端算子10.1.1定义10.1.2解释10.1.3性质

定义设为非空凸集，的上图为

定义设为非空凸集，为上的凸函数当且仅当为凸集定理

定义设函数，若它的上图为闭集，则称函数为闭函数.定义闭函数设函数，若其有效域非空,即则称为正常函数.定义正常函数

定义设是一个正常闭凸函数，则它的上图为非空闭凸集.

定义正常闭凸函数的近端算子（proximaloperator）