信赖域方法..pptVIP

信赖域方法 马广庆 前言 信赖域方法 1.信赖域方法与常规方法区别 2.信赖域基本思想 3.信赖域方法 4.算法步骤 5.例题分析 6.收敛性分析 1.信赖域方法与常规方法的区别 常规方法 先确定方向，再确定步长 1.信赖域方法与常规方法的区别 信赖域方法 相当于直接确定了位移 2.信赖域算法的基本思想 3.信赖域算法 3.信赖域算法 3.信赖域算法 3.信赖域算法 特点： 不要求目标函数的Hesse矩阵正定，在非正定的情况下也能处理。 既有牛顿法的快速局部收敛性，也有理想的全局收敛性。 算法利用二次模型来修正步长，使得目标函数的下降比线搜索方法更有效。 由于位移长度受到Taylor展开式有效的信赖域的限制，此方法又称为有限步长法 3.信赖域方法 要从上海火车站去人民广场，有两种方法： ①可以先定一个方向，比如先向西走，走着走着发现方向有点不对（人民广场应该是时尚地标啊，怎么越走感觉越郊区了呢），就调整一下方向，变成向东南方向走，诸如此类。 ②用信赖域算法，就比如，我先划一个圈，然后在这个圈里面找离人民广场可能最接近的点，之后在这个点为中心再画一个圈，在这个圈内找离人民 广场可能最近的点，以此类推。 4.算法步骤 步骤如下： 4.算法步骤 5.例题讲解 例题：无约束问题 5.例题讲解 5.例题讲解 5.例题讲解 6.收敛性分析 6.收敛性分析