论文(一个BFGS信赖域方法及收敛性.docVIP

一个BFGS信赖域方法及其收敛性 李向荣 广西大学数学与信息科学学院，广西省南宁市，530004 摘要：本文将一个修改的BFGS校正公式与信赖域技术相结合，得出一个新的算法。与其他算法相比，此算法具有比较理想的性质，其中之一：对一般凸函数而言，该校正公式能保持校正矩阵的正定性，在适当的条件下我们证明所给方法的收敛性，并给出数值检验结果。 关键词：凸函数，BFGS方法，信赖域方法，收敛性 学科分类号（GB/T13745-92）：110.74. A BFGS Trust Region Method and Its Convergence Li-Xiangrong College of Mathematics and Information Science, Guangxi University, Nanning,Guangxi, 530004, P. R. China. E-mail: xrli68@163.com. Abstract. In this paper, combing a modified BFGS update formula with the trust region technique, we propose a new algorithm. Compared with other algorithms, this algorithm has a more ideal properties. One of these is that for general convex functions, the update matix is positive definite The convergence of the given method is established under suitable conditions, and the test results is given. Key Words: convex function, BFGS method, trust-region method, convergence.. AMS subject classifications(GB/T13745-92):110.74 1 引言： 对于无约束最优化问题 （1.1） 其中是连续可微函数，拟牛顿方法经常用来求解问题（1.1），其中，BFGS方法是最有效的拟牛顿法之一，其校正公式如下 （1.2） 其中，和分别是在和处的梯度值。关于此方法许多学者都对其做了研究。同时有许多性质更好的拟牛顿方法出现（见文献[1,2]等）。近来，Yuan和Wei [4]给出了一个修改的BFGS校正公式 （1.3） 其中-，+ 是步长，是搜索方向。他们得到了该方法对一般凸函数的全局收敛性和超线性收敛性。信赖域算法也是求解无约束优化问题的非常重要的算法，关于这类算法的研究见文献[6，7]等。本文就是将公式（1.3）与一般的信赖域算法相结合给出一个新的算法，此算法能保持校正矩阵对一般凸函数的正定性，新方法不但拥有全局收敛性，同时具有二次收敛速度，相对于文献[4]而言，理论上得到了更好的结论。本文采用下列记号：表示中的Euclid范数，是在处的梯度值，是由算法产生的点列，记。 2 算法以及正定性 首先，我们给出解问题（1.1）的一般信赖域算法子问题的定义式为 （2.1） 其中，是在的Hesse矩阵或其近似，是信赖域半径，是试探步。实际上，求解信赖域子问题是非常重要的，文献[8]给出了相应的方法并讨论了其收敛性。用表示在第步的实际下降量，定义 （2.2） 为对应的预测下降量： （2.3） 定义比值 （2.4） 我们利用[3]中所给的信赖域算法与（1.3）结合给出一个修改的BFGS校正的信赖域算法，详细步骤如下： 算法 1 步骤 0：给定对称阵； 步骤 1：计算。如果满