最优化理论与方法课件-第四章 无约束优化基础.pptxVIP

数学基础 局部极小点的条件 算法概述 非精确线搜索; 多元函数(等高线/等值线、梯度、Hessian阵); 直线、射线 (顶点和方向); 多元函数沿直线的斜率和曲率; 多元函数沿直线的斜率和曲率;割线方程！; 一元函数与多元函数的Taylor展式;二阶Taylor展式：;局部极小点、全局极小点；非光滑的极小点;;无约束优化;稳定点/驻点(stationary point)：使得 g(x *) = 0 的 .;局部极小点的充分条件;局部极小点的充分条件(续);稳定点的类型;凸函数的定义;可微凸函数的判别;典型的凸函数;凸函数与不等式;G(z)关于z是凸的非减函数, f(x)关于x是凸的，则G(f(x))是凸函数！;算法概述－收敛与渐近收敛速度;算法概述－实用的终止准则;变量; ;(b) 一般函数在局部极小点 x*附近可用二次函数近似； 即使远离极小点，应用二次信息也要比简单地放弃这些信息好!;线搜索法;精确线搜索;非精确线搜索－动机;非精确线搜索－Armijo条件;;牛顿法和拟牛顿法中：;非精确线搜索－Wolfe准则和强Wolfe准则;非精确线搜索－下降法与稳定性;定理 考虑基于Armijo法则确定步长的线搜索法，若 f 下方有界，且 g(x) 在水平集 上Lipschitz 连