直线搜索问题.pptVIP

令 正定二次函数的最优方向 最优方向： 正定二次函数的牛顿方向 1）任取 ，设定充分小的正数 2）若 ，停止，否则令 3）直线搜索确定 满足 4）用 替换 ，回到 2）继续迭代 阻尼牛顿法（广义牛顿法） 阻尼牛顿法的缺陷 1）每步迭代要计算 ，计算量大 2） 可能不存在 3） 可能不正定， 不是下降方向 共轭方向法原理之一 共轭方向定义： 对称矩阵， 非零向量， 若 ，称 为 共轭方向 共轭方向线性无关性（定理4.4.5，121页） 若 互为 的共轭方向，则它们线性无关 理由： 共轭方向法原理之二 共轭方向二次函数有限终止性（定理4.4.6，121页） 结论： 条件：