平方度量意义下函数逼近问题研究.docVIP

摘 要 最小二乘法是从误差拟合角度对回归模型进行参数估计或系统辨识,并在参数估计、系统辨识以及预测、预报等众多领域中得到极为广泛的应用.然而,最小二乘法因其抽象、难懂常常不能被准确理解.本文探讨了最小二乘法的基本原理及其各种变形的拟合方法,其中包括:一元线性最小二乘法拟合、多元线性拟合、多项式拟合、非线性拟合,并且讨论了连续函数的最佳平方逼近，在此基础上，介绍了切比雪夫、勒让德、拉盖尔、埃尔米特四种正交多项式以及三角多项式的逼近问题。 关键词：最小二乘法 线性拟合 曲线拟合 正交多项式 Abstract Least square was used to estimate parameters and identify system of regression model, by the point of error fitting. And it has widely application in the parameters estimate, system identification, prediction, forecasting and other fields. However, the least square method because of its abstract and difficult ，often can not be accurately understanding. The least square method’s principle and the various kinds of fitting methods such as the linear least square fitting, multiple linear fitting, polynomial fitting a nonlinear fitting are dealt with. And discussed square approximation of continuous function, on this basis, introduced the Chebyshev, Legendre, Laguerre, Hermite orthogonal polynomials and the four triangular polynomial approximation. Key Words：least square method；linear fitting；square approximation 目 录 摘 要 I Abstract II 目 录 I 第1章 引言 1 第2章 最小二乘法 3 2.1 最小二乘法问题描述 3 第3章 离散点的最小二乘曲线拟合 7 3.1 问题提法及拟合模型 7 3.2 线性模型的正规方程 9 3.3 基于正交基的线性模型 11 3.4 非线性模型举例 13 第4章 连续函数的最佳平方逼近 17 4.1 问题提法及正规方程 17 4.2 利用多项式作平方逼近 19 4.3 利用正交函数组作平方逼近 21 4.4 几种常见的正交多项式 21 第5章 结论 25 参考文献 27 致谢 29 第1章 引言 最小二乘方法最早是高斯提出的，他用这种方法解决了天文学方面的问题，特别是确定了某些行星和彗星的天体轨迹。这类天体的椭圆轨迹由5个参数确定，原则上，只要对它的位置做5次测量就足以确定它的整个轨迹。但由于存在测量误差，由5次测量所确定的运行轨迹极不可靠，相反，要进行多次测量，用最小二乘法消除测量误差，得到有关轨迹参数的更精确的值。最小二乘法近似将几十次甚至上百次的观察所产生的高维空间问题降到了椭圆轨迹模型的五维参数空间。 假如想了解某个地方的月降雨量，一个月的观测当然不够，任何一个月都可能是异常晴朗或异常多雨。相反，人们应该研究几个月或至少一年甚至十年，并将所有数据加以平均。平均的结果对任何一个具体的月份并不一定能完全符合，但凭直觉，这个结果所给我们的标准降雨量图形将比只研究一个月所得到的结果要准确得多。这个原理在观察和实验科学领域是通用的。它是通过多次测量消除测量误差及随机波动。木匠的格言“量两次，再下手”也正是这个常识的一个例子。 在降雨的例子中，我们用一个数来代表或一定程度地近似整个测定数据的效果。更一般的，鉴于各种理论和实际的原因，常用低维来近似说明高维的对象。在下面几种工作中都可以采用这个方法，象消除误差或忽略无关细节，从干扰数据中提取信号或找出趋势，将大量数据降低到可管理的数量或用简单的近似来代替复杂函数。我们并不期望这个近似值多么精确，事实上，在许多时候它也不用很精确。但尽管如此，我们还是希望它能保持对原始数据的相似之处。在线性代数领域，我们希望将一个高维空间的向