求解非线性最小二乘问题的迭代法.pdf

维普资讯 第 49卷 第 l期 武汉大学学报 (理学版) Vo1．49 No．1 2003年 2月 J．W uhanUniv．(Nat．Sci．Ed．) Feb．2003．0l4～ 0l6 文章编 号 ：1671-8836(2003)01—00l4一O3 求解非线性最小二乘问题的迭代法 陈 忠 ，黄 惠。 (1．武汉大学 计算机学院，湖北 武汉 430072；2．江汉石油学院 理学院， 湖北 荆州 434023；3．武汉大学 数学与统计学院，湖北 武汉 430072) 摘 要：基于解线性方程组的Iacobi迭代法的思想 ，本文提出了一种求解非线性最小二乘 问题的迭代法．大量 的数值试验表 明该迭代法具有较好 的收敛性 ．另外，还将所设计的迭代法进行 了并行化 ． 关 键 词：非线性最小二乘 问题 ；迭代法；并行算法 中图分类号 ：O224 文献标 识码 ：A 算法 1 给定 ，五一 1，一 1， 一F(x)， 0 引 言 步 1．计算 A 一 vF(x)； 步 2．求解 S：min(IlAfs+ “-”PIl2；S ∈ 非线性最小二乘 问题 (NLs)可 以用一般无约 R”t)； 束求极小的最优化方法解决 ．而如今NLS问题在模 步 3．求松驰因子 ； 型及控制等研究 中有着重要 的理论 意义 ，更被广泛 步 4．计算 P— r抖_“”P+叫A s； 应用于各种逼近拟合技术领域，所 以本文将讨论和 步 5．计算 P— 抖 ‘”P+叫 ． 改进非线性最小二乘 问题 ： 步 6．若 P，则 ：一 +1转步 1；若 i—P，则 1 min~(x)一妻F(z)F() (1) 判断迭代是否满足收敛性条件 ，若满足 ，则停止迭 的求解方法 ，使之具有更高的实际运用效率 ，其 中 代 ，否则令 五：一五+1，一 1转步 1． F：R 一R ， ≥ ，并且 F一 (F1，F2，… ，F )’r， ∈ 该算法实事上利用 了解线性方程组 的SOR方 R ． 法 的思想 ．对于线性最 小二乘 问题 minIlAx— Coleman在文献[1]中提出了一种求解问题 (1) bI12，其 中A∈R ，m≥n，x∈R ，6∈R ，Dennis 的迭代法 ．在描述该算法前先对一些记号进行说 等在文献 [2]中给出了求解线性最小二乘 问题 的迭 明．记A 一vF(x)表示 函数 F在 处的Jacobi 代法 ，并证明了该迭代法的收敛性 ．基于文献 [2]中 矩阵．现将A 的列分成 g组A{，Al，…，A ，其 中A 迭代法的思想 ，作者在文献 [3]中给 出了求解线性 是一个 × 的矩阵．记 1∈R”，2∈Rz，…， 最小二乘 问题的并行算法，并讨论了该并行算法的 ∈R”．假设A 是由A 的第 ， ，…， 列所组成 ， 收敛性 ．文献[1]中提供的数值试验表明，求解非线 用 表示用 的元素代替 维零 向量相应于位置