用变分原理解线性方程组的方法初探.docVIP

【标题】用变分原理解线性方程组的方法初探 【作者】钟明强 【关键词】?最速下降法??共轭梯度法??梯度方向??收敛性 【指导老师】周 均 【专业】数学与应用数学 【正文】1.?引言及预备知识线性方程组的求解问题是数学领域中的重要问题，我们如何去利用计算机来快速，有效地求解线性方程组的问题已经成为数值线性代数的核心问题；而且也是目前仍在继续研究的重大课题之一，因为各种各样的科学与工程问题往往最终都要归结于一个线性方程组的求解问题，关于线性方程组的求解，教科书中给出多种解法：高斯消去法、列主元素消去法、雅可比迭代法……,这些方法的共同特点都是直接对线性方程组Ax=b求解或者是通过对式子的变形得到相应的迭代公式求得其解.那么我们是否可以通过其它的途径（通过求解其等价的问题）来求解它呢？本文就是根据这个思想，把求解线性方程组转化为求解一个二次多元函数最小值的问题，我们通常把这一原理叫做是解线性方程组的变分原理?变分原理一直是数学科学的重要分支之一，用它来解释数学和物理科学的基本原理，既简单又优美.变分原理在规范场理论，孤子理论等一般理论的发展中有着重要的作用.变分不等式问题是当今非线性分析的重要组成部分，它在力学﹑微分方程﹑控制论﹑数理经济﹑对策理论﹑优化理论﹑非线性规划等理论和应用学科都有广泛的应用.这一原理在数值线性代数中的运用，并得出的两种基本方法（最速下降法和共轭梯度法）产生于20世纪60年代，现已成为解线性方程组的最基本、常用方法之一，并且已经发展成为计算数学中的一个热点，它在求解目标函数为一般连续可微函数的无约束最优化问题中得到更广泛的应用，许多数学工作者在这方面做了大量工作，他们在这两种方法的原始算法的基础上进行改进[4-7]，得到更优良的性质，并取得了显著的成效.本文将要用到的几个定义及性质：定义1.1[1]?（梯度的定义）若定义函数f(?)=??）设f(?)是二阶可导函数，则??=????????????????称为函数?在点?处的梯度，常记为?，称?的方向为?在?点处的负梯度方向.??????????????定义1.2[9]??（全局极小点定义）?点?称为函数f(x)的全局极小点，若???????????????，????定义1.3[9]?（局部极小点的充分条件）?如果函数?具有连续的二阶导数，那么在?的一个很小的邻域?内，若?满足?，则?是函数?在此邻域内的局部最小点.定义1.4[9]???（Hessian矩阵的定义A）??实值函数f(?)相对于m×1实向量?的二阶偏导数是一个由?个二阶偏导组成的矩阵(称为Hessian矩阵)，定义为???????????????或者简写为梯度的梯度??，根据定义，hessian矩阵的第j列是梯度?=?的第j个分量的梯度，即??也可以记为????????????因为是?二阶可导函数，则???，?所以Hessian矩阵是对称矩阵。定义1.5[9]?（A-正交或A-共轭定义）设A是对称正定矩阵，如果向量?,y?满足?则称?与y为A-正交或A-共轭；定义1.6?[3]???在线性赋范空间{?}中，设点列{?}收敛于?，且满足?其中?为实数，c0为与?无关的常数，则称{?}为?阶收敛.当?=1且0C1时，称{NBSP;}为线性收敛.?当p1时，称{?}为超线性收敛。2.?线性方程组的变分原理??????设A为对称正定矩阵，求解的线性方程组为?A?=b?????????????????????????????????????????????????????(2.1)???????其中A=??，??=??，b=?.考虑二次函数f(x)=??=?????????????????????????????????????(2.2)?????于是可得出f(x)有如下的性质[4]：1）???????对一切?，有??????????????????????????????????????（2.3）2）???????对一切?,?,有f(x+?)=?????????????????????????????（2.4）3) ???设?为?的解，则????????????????????????????????????????????=?????????????????????????????????????????????=??????????????????????????（2.5）而且对一切?，有????????????????????=???????????????????????????????????????????（2.6）根据实值函数极小化的条件知，函数f(x)关于向量x的一阶导数（即梯度）应该为零