非线性方程组的求解.docVIP

非线性方程组的求解 摘要：非线性方程组求解是数学教学中，数值分析课程的一个重要组成部分，作为一门学科，其研究对象是非线性方程组。求解非线性方程组主要有两种方法：一种是传统的数学方法，如牛顿法、梯度法、共轭方向法、混沌法、BFGS法、单纯形法等。传统数值方法的优点是计算精度高，缺点是对初始迭代值具有敏感性，同时传统数值方法还会遇到计算函数的导数和矩阵求逆的问题，对于某些导数不存在或是导数难求的方程，传统数值方法具有一定局限性。另一种方法是进化算法，如遗传算法、粒子群算法、人工鱼群算法、差分进化算法等。进化算法的优点是对函数本身没有要求，不需求导，计算速度快，但是精度不高。 关键字：非线性方程组、牛顿法、BFGS法、记忆梯度法、Memetic算法 1： 三种牛顿法：Newton 法、简化Newton 法、修改的Newton 法【1-3】 求解非线性方程组的Newton 法是一个最基本而且十分重要的方法, 目前使用的很多有效的迭代法都是以Newton 法为基础, 或由它派生而来。 n 个变量n 个方程的非线性方程组, 其一般形式如下: （1） 式(1)中,( i=1, ?, n) 是定义在n 维Euclid空间Rn中开域 D上 的实值函数。若用向量记号，令： , 则方程组（1）也可表示为： （2） 其中：XRn,F∶Rn→R0, F(X) ∈Rn, Rn为赋值空间。一般地， 若在包含的某邻域D 内, 按某种近似意义,用线性函数: （3） 近似地代替向量值函数F(X),此处Ak 是n 阶矩阵，则可将线性方程组: （4） 的解作为非线性方程组( 2) 的近似解。 1.1 Newton法[1] Newton法的迭代公式为： (5）其中. 1.2 简化Newton 法[1] 尽管Newton 法具有较高的收敛速度，但在每一步迭代中，要计算n 个函数值f，以及n2个导数值f′形成Jacobi矩阵，而且要求的逆阵或者解一个n 阶线性方程组，计算量很大。为了减少计算量，在上述Newton 法中对一切k=0,1,2,...,取为，于是迭代公式修改为： (6) 式( 5) 即为简化的Newton 法。该方法能使计算量大为减少，但却大大降低了收敛速度。简化的Newton 法的算法与Newton 法的算法区别就在于只由给定的初始近似值计算一次，以后在每一次迭代过程中不再计算，保持初始计算值。 1.3 修正的Newton 法[2] 吸取Newton 法收敛快与简化的Newton 法工作量省的优点，文献【2】把m 步简化的Newton 步合并成一次Newton 步。则可以得到下列迭代程序: (7) 式中: j=1, 2, ?, m, k=0, 1, 2, ?, 该式称为修正的Newton 法。 通过分析Newton 法、简化的Newton 法和修正Newton 法的原理, 并通过对算例的分析比较，我们可知: Newton 法(5)式具有较高的收敛速度，但计算量大，在每一步迭代中，要计算n个函数值f，以及n2个导数值f形成Jacobi 矩阵 ，而且要求的逆阵或者解一个n 阶线性方程组；简化的Newton 法( 6) 式，它用迭代初值X0来计算，并在每个迭代步中保持不变，它能使每步迭代过程的计算量大为减少，但大大降低了收敛速度。修正Newton法(7)与Newton法(5)相比，在每步迭代过程中增加计算n个函数值，并不增加求逆次数，然而收敛速度提高了。 2： BFGS法【4-6】 非线性方程组一般形式为:方程组（1）将其转化为一个全局优化问题。构造能量函数：求非线性方程组解的问题就转化为求解能量函数极小值的问题。即给定一个充分小的实常数，搜索使得则X*即是非线性方程组（1）对应的近似解。 2.1 BFGS查分算法【4】 文献【4】将传统的BFGS算法和查分算法有机融合，用来求解非线性方程组，效果显著，可以较为广泛地应用于非线性方程组的求解。BFGS方法是由Broyden、Fletcher、Goldfarb和Shanno 等人在1970年提出的。它是一个拟牛顿方法，具有二次终止性、整体收敛性和超线性收敛性，且算法所产生的搜索方向是共轭的。BFGS方法是一个有效的局部算法，用来求解极小值的。 例如方程组