浅谈最小二乘原理的应用及其matlab实现 0907005 10数本一班 蔡怡概要1.docVIP

浅谈最小二乘原理的应用及其matlab实现 蔡怡 (数计学院 数学与应用数学 10数本一班 0907005， 芜湖 安徽） 摘要：本文分析了线性方程组解的递推算法并由此推导出增加试验点的线性拟合的计算公式;探讨了给定基函数下曲线拟合的唯一性;介绍了离散状态正交多项式意义下的曲线拟合。并以实例的形式说明了如何利用matlab程序求解两种类型的拟合问题。 关键词：最小二乘法；线性拟合；曲线拟合 中图分类号： 文献标识码：A 文章编号： Talking about the Application and its Achievement by MATLAB of Least Square Method Cai Yi(0907005 Mathematic class of 2010 Mathematics AHNU,wuhu Anhui China) Abstract: In this paper, the recursion method of linear equations and linear least square fitting of increasing points are analyzed; The uniqueness of curve fitting under basis functions is discussed; The curve fitting based on orthogonal polynomial in discrete state is introduced and it is illustrated how to use MATLAB to solve the two types of fitting problem in the form of examples. Key words: least square method；linear least square fitting；curve fitting Grammer法则给出了方程组有唯一解的充要条件即系数矩阵A可逆，然后可根据gauss消元法，主元素法，三角分解法进行运算。但是此方法的计算量比较大，当方程组阶数比较高或矩阵式大而稀疏时，这种方法就不适用。 另一种是求出近似解的情况。常用迭代法进行运算，即给出一个初值，然后进行多 次迭代得到一个近似解。比较常用的方法有jacobi迭代，gauss-seidel迭代，超松弛迭代等。迭代法解线性方程组多用于系数矩 阵比较稀疏的情况。对于不同的方程组，需要选择不同的迭代方法。 1.2 线性方程组的最小二乘解 设有线性方程组，其矩阵形式 = …………（1.1） 定义1.2.1 对于方程组，方程式的个数大于参数的个数，这样的方程组称为矛盾方程组. 对于矛盾方程组，不可能求其精确解，只能试图寻找它的近似解。 定义1.2.2 对于矛盾方程组，任何一组都可能使 对于使得 最小的称为矛盾方程组的最小二乘解. 定理1.2.1方程组的最小二乘解即为方程组的解. 详细证明过程见参考文献[2]. 定义1.2.3 矛盾方程组的最小二乘解对应的方程组称为对应矛盾方程组的正规方程组. 将正规方程组写成矩阵形式为 1.3求线性方程组最小二乘解的递推运算 当方程组（1.1）的方程个数增加一个，得到新的方程组 …………（1.2） 可以按照上述的方法求得（1.2）的最小二乘解，但是求一个阶的逆矩阵的计算量很大。下面考虑利用个方程的解，求出有个方程的方程组的最小二乘解。 为方便起见，引入指标，,,分别表示有个方程的方程组的相关矩阵，则（1.1）可以表示为 （1.2） 从而（1.1）式的最小二乘解可以表示为 记 则有 ， 得到 + 若记 则上式可记为 对上式两边同时取逆矩阵得到 引理 设矩阵，，均为非奇矩阵，则有 证明 左乘 得到： - =- = - = 同理可以证明右乘于 也得到单位阵。 综上所述，上述等式成立 由上述引理得到 =- 若记 　 显然是一个数 则上式变为 =- =(+) =(-)(+) = - - =－＋－） 从而 ＝＋ （－） ………………（1.4） 定义1.3.1 （1.3）（1.4）就是线性方程组的最小二乘解的递推公式 2.一元线性拟合 2.1一元线性拟合 命题2.1.1一元线性回归可以看成线性方程组的最小二乘解的特殊情形 分析 设y与x成正比例关系，即 ， 已知试验点可以得到下列方程组 …… 其中= = = 计算可得 =， = 其中， 从而= 即 2.2递推法在一元线性回