CAN-File-10-10-08-13-无约束优化_基础.pptVIP

非精确线搜索－充分减少和回溯 确定非精确线搜索步长的实用方法之一 Procedure 4.1 Backtracking-Armijo Linesearch 牛顿法和拟牛顿法中： 最速下降法或共轭梯度法中可取不同初始步长值！ 参数的典型值： 非精确线搜索－充分减少和回溯(续) 推论 在上述定理条件下, 回溯Armijo线搜索确定的步长 定理. 对于由回溯Armijo线搜索确定步长的线搜索法而言，则或者对某 k 有 g(k)=0，或者 ，或者 定理 设g(x)是Lipschitz连续的(常数是L). 此外，p(k)是x(k)处 的下降方向。则区间 内的值均满足Armijo条件，其中 算法概述－线搜索法与信赖域法(续) 给定初始估计x(0)，设x(k)处有g(k) ≠0，则第 k 次迭代： 信赖域： 信赖域子问题： 利用x(k)和△k构造子问题 解信赖域子问题，得s(k). 计算 数学与系统科学学院 第05章 无约束优化：基础 实用优化方法 数学基础 直线、射线(顶点和方向)： 给定 直线： 射线： 线段： 多元函数(等直线、梯度、海森矩阵) Rosenbrock“香蕉”函数 多元函数沿直线的斜率和曲率 f 沿直线 的一阶导数和二阶导数 斜率(slope) 曲率(curvature) Rosen