07凸优化理论与应用_无约束优化167.pptVIP

信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn 凸优化理论与应用 第7章 无约束优化 无约束优化问题 例 迭代起始点 强凸性 强凸性 强凸性 下降法 下降法 步长因子搜索 步长因子搜索 梯度下降法 收敛性分析 例 例 最速下降法 最速下降法 收敛性分析 牛顿法 牛顿法 牛顿减量 牛顿方法 收敛性分析 收敛性分析 例 * * 问题描述： 无约束问题求解的两种方法： 迭代逼近： 求解梯度方程： 为凸函数，且二次可微。 梯度方程 二次优化： 满足条件2的几种函数： 起始点 满足： 函数 任意下水平集都是闭集； 函数的定义域为 当 时， 定义：函数 在 上具有强凸性，若 满足 若函数 具有强凸性，则有 为最优值，则 则有 为最优值，则 若函数 在 上具有强凸性，则可以证明存在 ，满足 对于 ，矩阵 的特征值从大到小依次为 。则有： 定义：矩阵 的条件数为最大特征值与最小特征值之比，即 。 条件