无约束问题的最优化条件.pptVIP

5.1 无约束问题的 最优性条件 ;1．局部极小点 2．严格局部极小点 3．全局（总体）极小点 4．严格全局（总体）极小点。 注：在非线性规划中，大多数算法都致力于求最优化问题的局部极小点，一般求全局极小点极为困难，仅当问题为凸规划时，局部极小为全局极小。 ;;2021/3/8;5.2 最速下降法 ;最速下降法又称为负梯度法，由Cauchy于1847年给出。是最为古老但又十分基本的一种方法。;关于梯度的复习： ?梯度是一个向量。n元函数f(x1 ,x2 ,…xn)在点x处的梯度为：;2021/3/8;解:;代入目标函数得：;二.算???终止标准;三、最速下降算法收敛性定理;四.最速下降法的收敛速度;五.算法特点; 5.3 牛顿法 ;2021/3/8;2021/3/8;2021/3/8;例2:用牛顿法求;3)求最优步长;2021/3/8;2021/3/8;2021/3/8;四.牛顿法的进一步修正;2021/3/8;2021/3/8; 5.4 信赖域法 ;2021/3/8;2021/3/8;2021/3/8;2021/3/8;2021/3/8;2021/3/8; 5.5 拟牛顿法 ;2021/3/8;2021/3/8;2021/3/8;2021/3/8;2021/3/8;2021/3/8;2021/3/8;2021/3/8;2021/3/8;2021/3/8;202