最小二乘法在系统辨识中的应用包含相关的三种算法.doc

PAGE  PAGE 10 2008级硕士研究生《系统建模理论》试卷 已知一个三阶线性离散系统的输入、输出数据，共有40个采样值，试分别用：最小二乘法（LS）、递推最小二乘法（RLS）、广义最小二乘法（GLS）进行参数估计，给出相应的数学模型，并阐述相应的辨识原理。 k 1 2 3 4 5 6 7 8 9 10 u(k) 0.8251 0.0988 0.4628 -0.9168 2.2325 0.0777 2.3654 0.3476 1.1473 -1.9035 y(k) 1.5333 -1.0680 1.0666 -0.5284 -0.5835 3.1471 -3.7185 6.2149 -6.3026 7.2705 k 11 12 13 14 15 16 17 18 19 20 u(k) -0.9229 1.6400 -0.8410 0.7599 -0.4739 -0.1784 -1.7760 -1.6722 1.2959 -0.0591 y(k) -9.0552 8.1735 -5.9004 3.9870 -2.2486 0.9525 -0.5325 -1.5227 0.4200 1.0786 k 21 22 23 24 25 26 27 28 29 30 u(k) -1.0576 -1.0071 1.1342 -0.0740 0.6759 0.5221 0.9954 0.5271 -1.7656 0.4936 y(k) -1.5579 0.6640 -1.4222 2.6444 -2.9572 3.6340 -3.1281 3.8334 -3.2542 1.1568 k 31 32 33 34 35 36 37 38 39 40 u(k) 1.4810 0.9591 -3.1293 -0.3604 -0.4251 0.4185 -0.6728 -0.0027 2.1145 1.1157 y(k) 0.0615 0.9120 -0.0692 -3.2731 3.7486 -4.3194 4.7230 -5.2781 5.1507 -2.7235 一、最小二乘法（LS） 1、数学模型 设时不变SISO动态过程的数学模型为 （1.1.1） 其中，为过程的输入量，为过程的输出量，是噪声，多项式和为： 在本题中，==3.即 将此模型写成最小二乘格式 （1.1.2） 其中，是过程的输出量；是可观测的数据向量；是均值为零的随机噪声。 式中 对于，方程式（1.1.2）构成一个线性方程组，可以把它写成 （1.1.3） 利用数据序列和，极小化准则函数 （1.1.4） 使的估计值记作，称为参数的最小二乘估计值。通过极小化（1.1.4）式来计算的方法称作最小二乘法， 未知模型参数最可能的值是在实际观测值与计算值之累次误差的平方和达到最小处所得到的，这种模型输出能最好地接近实际过程的输出。 2、辨识原理 考虑模型（1.1.2）式的辨识问题，其中和都是可观测的数据，是待估计参数，准则函数取（1.1.4）根据（1.1.3）的定义，准则函数可写成二次型的形式 （1.2.1） 显然上式中的代表模型的输出，或者说是过程的输出预报值。因此可以看作来衡量模型输出与实际过程输出的接近情况。极小化，求得参数的估计值 （1.2.2） 将使模型的输出最好的预报过程的输出。 辨识结果 二、递推最小二乘法（RLS） 1、数学模型 在第一部分中建立了最小二乘法，并用一次完成算法进行了计算。但是由于具体使用时占用内存量大，而且不能用于在线辨识。所以引入了最小二乘参数估计的递推算法。 递推算法的基本思想可以概括成： 新的估计值=老的估计值+修正项 （2.1.1） 在此算法中，时不变SISO动态过程的数学模型仍与最小二乘法的一样。模型的最小二乘格式也相同，只是计算方法不同，具体计算方法，在递推最小二乘法的辨识原理中描述。 2、辨识原理 首先将1.2.