人民大2024孙怡帆 数据科学优化方法 PPT第2章 无约束最优化方法基础.pptxVIP

数据科学优化方法OptimizationMethodinDataScience统计学院孙怡帆数据科学与大数据技术

第2章无约束最优化方法基础2.1最优性条件2.2方法框架2.3收敛准则

最优性条件2.1.1全局最优解与局部最优解2.1.2最优性条件

最优性条件2.1.1全局最优解与局部最优解2.1.2最优性条件

若对任意，有，则称为问题(1.1)的全局最优解.定义2.1全局最优解全局最优解与局部最优解

若存在的一个邻域，使得对任意，有，则称为问题(1.1)的局部最优解（也称为弱局部最优解）.其中，是一个小的正数；范数可以是任意向量范数，如无特别说明，一般指2范数定义2.2局部最优解全局最优解与局部最优解

全局最优解与局部最优解若存在的一个邻域,在该邻域内有且仅有这一个局部最优解，则称为问题(1.1)的孤立局部最优解.定义2.4孤立局部最优解若存在的一个邻域,使得对任意有，则称为问题(1.1)的严格局部最优解（也称为强局部最优解）.定义2.3严格局部最优解注：孤立局