数值分析课程设计-基于最小二乘原理的曲线拟合-及求解超定方程组参考.docVIP

东北大学秦皇岛分校 数值计算课程设计报告 基于最小二乘原理的曲线拟合 及求解超定方程组 学 院 数学与统计学院 专 业 信息与计算科学 学 号 姓 名 指导教师 成 绩 教师评语： 指导教师签字： 2017年01月06日 1 绪论 1.1 最小二乘原理的由来 德国数学家高斯在汉诺威弧度测量的三角网平差中首次提出最小二乘原理． 由于测量仪器的精度不完善和人为因素及外界条件的影响，测量误差总是不可避免的．为了提高成果的质量，处理好测量中存在的误差问题，必须进行多余的观测，导致观测值的个数往往多余确定未知量所必须的观测值的个数．有了多余的观测，势必在观测结果之间产生矛盾，最小二乘法产生的目的就在于消除这些矛盾而求得观测值的最可靠结果并评定测量成果的精度． 1.2 最小二乘原理 最小二乘法是一种数字优化技术． 从一组测定的数据中寻求变量之间的依赖关系，这种函数关系称为经验公式．测量值与经验公式之间存在偏差，要求偏差越小越好，但由于偏差的可正可负，考虑用偏差的绝对值之和来计算总偏，又因为绝对值不易运算，因此用平方和来代替计算．问题归结为确定经验公式中的常数，使得残差平方和最小． 最小二乘法常用于对回归模型进行参数估计，系统辨识与预测． 1.3 本文的研究内容 本文讨论用最小二乘法进行曲线拟合和超定方程组的求解．对于一般的最小二乘曲线拟合和超定方程组的求解，matlab中有内设函数，如polyfit和/运算符．本文在理论上分析最小二乘拟合函数及超定方程解的存在唯一性；实践中给出自设的函数用于拟合和求解，并应用于拟合阶数在一定的范围内不确定的情况和分段拟合． 2 曲线拟合的最小二乘法 2.1 最小二乘拟合函数的存在唯一 2.1.1 Harr条件 定义 设的任意线性组合在点集上至多只有个不同的零点，则称在点集上满足Harr条件． 定理 如果在上满足Harr条件，则矩阵 非奇异． 2.1.2 最小二乘法确定拟合函数系数 给定一组观测数据, 要求一个函数满足 , , 其中是上线性无关函数族，这里可表示为 , 使得加权平方和最小 . (2.1) 这里是上的权函数，表示不同点处的数据比重不同． 问题可以转化为求多元函数 的极小值点的问题． 由多元函数求极值的必要条件，有 . 记形式内积 , , 上式可改写为 . (2.2) 其写成矩阵形式， . 如果在上满足Harr条件，方程（2.2）存在唯一解. 从而得到函数的最小二乘解为 . 下面证明满足（2.1），考虑 由于的系数是线性方程组（2.2）的解，故 , 从而上式第二项为0，于是 , 故（2.1）式成立，是最小二乘拟合函数，这就证明了最小二乘拟合函数的存在唯一性． 2.2 用正交多项式作最小二乘拟合 2.2.1 数学模型 函数族在任意个点上满足Harr条件，但在这种情况下用最小二乘法得到的系数矩阵是病态的，但如果是关于点集带权正交的函数族，即 则法方程（2.2）的解为 , 且平方误差为 . 现在我们根据给定节点及权函数，造出带权正交的多项式。注意，用递推公式表示，即 这里是首项系数为1的次多项式，根据的正交性，得 2.2.2 拟合程序设计 function P = Mypolyfit(X,Y,w,n) % X and Y are vectors which are made up with data points (xi,yi) % w is the weight of every data points % n is the order of fitting ploynomial a = zeros(1,n+1); % a is coefficient of P p_poly = zeros(n+1,n+1); % p_poly is a matrix whose nth row vector is coefficient of Pn for i = 1:n+1 if i == 1 p_poly(i,end) = 1; a(i) = sum(w.*Y)/sum(w); elseif i == 2 alph = sum(w.*polyval(conv([1,0],p_poly(i-1,:)),X).*polyval ... (p_poly(i-1,:),X))/sum(w.*polyval(p_poly(i-1,:),X).^2); p_poly(i,:) = conv([1,-alph],p_poly(i-1,2:end));