实验一最小二乘法.doc

实验一 最小二乘法 一、最小二乘法简介 F.Gallton）——达尔文的表弟所创。早年，道尔顿致力于化学和遗传学领域的研究。他研究父亲们的身高与儿子们的身高之间的关系时，建立了回归分析法。 现在回归分析法已远非道尔顿的本意，已经成为探索变量之间关系最重要的方法，用以找出变量之间关系的具体表现形式。后来，回归分析法从其方法的数学原理——误差平方和最小出发，改称为最小二乘法。 最小二乘法（又称最小平方法）是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘法可以简便地求得未知的数据，并使得这些求得的数据与实际数据之间误差的平方和为最小。最小二乘法还可用于曲线拟合。其他一些优化问题也可通过最小化能量或最大化熵用最小二乘法来表达。 例1 已知在不同的温度下，测定铜棒的长度如下表所示： 1 2 3 4 5 6 7 8 /℃ 10 15 20 25 30 35 40 45 /cm 2000.36 2000.50 2000.72 2000.80 2001.07 2001.25 2001.48 2001.60 用最小二乘法求解长度l与温度T的关系式。 求解思路：首先根据给出的原始数据画出折线图，确定表达式的形式后再用最小二乘法求解参数的值。 求解过程： 程序运行结果如下： 图1 T-L关系图 图2 T-L关系图与最小二乘法拟合后的图 例2 考虑如下仿真对象：z(k+2)-1.5z(k+1)+0.7z(k)=u(k+1)+0.5u(k)+v(k) 其中，v(k)为服从N（0,1）分布的白噪声，输入信号u(k)采用M序列，幅度为1. M序列由9级移位寄存器产生，。 选择如下辨识模型：z(k+2)= -a1z(k+1)-a2z(k)+b1u(k+1)+b2u(k)+v(k) 观测数据长度L=400，加权矩阵。 1、一次最小二乘法计算如下： （1.1） 其中，。 求解程序如下: 2、递推最小二乘法 （1.2） 初始条件：。 经过编程计算，各参数的估计值如下：。 程序如下： 程序运行结果如下 ： 图1 递推最小二乘法参数过渡过程 图2 递推最小二乘法方差变化过程 信号检测与参量估计 实验一 最小二乘法 4