信赖域的相关知识..docVIP

最优化方法结课论文 ——信赖域的相关知识 姓名： 历红影 学号：2010052210 学院：理学院 班级：信息102班 教师：葛仁东 信赖域方法是非线性优化的一类重要的数值计算方法。它在近二十年来受到了非线性优化研究界非常的重视，特别是最近几年，一直是非线性优化的研究热点。目前，信赖域方法已经和传统的线收索方法并列为非线性规划的两类主要数值方法。信赖域方法的研究起始于Powell 1970。但是，人们发现信赖域方法的基本技巧在一定意义下等价于十分著名的求解非线性最小二乘的Levenberg-Marquadt方法。 一.信赖域理论 信赖域方法与线搜索技术一样, 也是优化算法中的一种保证全局收敛的重要技术。 , 从而确定新的迭代点。: 线搜索技术是先产生位移方向(亦称为搜索方向), 然后确定位移的长度(亦称为搜索步长)。而信赖域技术则是直接确定位移, 产生新的迭代点。 信赖域方法的基本思想是:首先给定一个所谓的“信赖域半径”作为位移长度的上界，并以当前迭代点为中心以此“上界”为半径确定一个称之为“信赖域”的闭球区域。然后,通过求解这个区域内的“信赖域子问题”(目标函数的二次近似模型) 的最优点来确定“候选位移”。若候选位移能使目标函数值有充