应用最小二乘一次完成法和递推最小二乘法算法的系统辨识解析.docVIP

1最小二乘法的理论基础 1.1最小二乘法 设单输入单输出线性定长系统的差分方程表示为： 其中δ(k)为服从N(0,1)的随机噪声,现分别测出n+N个输出输入值y(1),y(2),…,y(n+N),u(1),u(2),…,u(n+N),则可写出N个方程，写成向量－矩阵形式 (4.1.1) 则式(1.1.1)可写为 （4.1.2） 式中：y为N维输出向量；ξ为N为维噪声向量；θ为（2n+1）维参数向量；Φ为N×（2n+1）测量矩阵。因此，式（4.1.1）是一个含有（2n+1）个未知参数，由N个方程组成的联立方程组。 在给定输出向量y和测量矩阵Φ的条件下求参数θ的估计，这就是系统辨识问题。 设 表示 的估计值，?表示y的最优估计，则有 （4.1.3） 式中： 设e(k)=y(k)- ?(k), e(k)称为残差，则有e=y- ?=y-Φθ 最小二乘估计要求残差的平方和最小，即按照指数函数 （4.1.4） 求Ｊ对 的偏导数并令其等于0可得： （4.1.5） 由式（4.1.5）可得的 最小二乘估计： （4.1.6） J为极小值的充分条件是： 即矩阵ΦTΦ为正定矩阵，或者说是非奇异的。 1.1.1最小二乘法估计中的输入信号 当矩阵ΦTΦ的逆阵存在是，式（1.1.6）才有解。一般地，如果u(k)是随机序列或伪随机二位式序列，则矩阵ΦTΦ是非奇异的，即（ΦTΦ）－1存在，式（1.1.6）有解。 现在从ΦTΦ必须正定出发，讨论对u(k)的要求。 （4.1.7） 当N足够大时有 （4.1.8） 如果矩阵ΦTΦ正定，则Ru是是对称矩阵，并且各阶主子式的行列式为正。当N足够大时，矩阵Ru才是是对称的。 由此引出矩阵ΦTΦ正定的必要条件是u(k)为持续激励信号。如果序列{u(k)}的n+1阶方阵Ru是正定的，则称{u(k)}的n+1阶持续激励信号。 下列随机信号都能满足Ru正定的要求 有色随机信号 伪随机信号 白噪声序列 1.1.2最小二乘估计的概率性质 最小二乘估计的概率性质 1） 无偏性 由于输出值y是随机的，所以是随机的，但注意θ不是随机值。 如果，则称是无偏估计 2）一致性 估计误差的方差矩阵为 （4.1.9） 上式表明当N→∞时，以概率1趋近于θ。 当ξ(k)为不相关随机序列时，最小二乘估计具有无偏性和一致性 3)有效性 如果式（1.1.2）中的ξ的均值为0且服从正态分布的白噪声向量，则最小二乘参数估计值 为有效值，参数估计偏差的方差达到Cramer-Rao不等式的下界，即 （4.1.10） 式中M为Fisher矩阵，且 （4.1.11） 4）渐近正态性 如果式（4.1.2）中的ξ是均值为0且服从正态分布的白噪声向量，则最小二乘参数估计值服从正态分布，即 （4.1.2） 1.2递推最小二乘法 为了实现实时控制，必须采用递推算法，这种辨识方法主要用于在线辨识 设已获得的观测数据长度为N，则 估计方差矩阵为 式中 于是 如果再获得1组新的观测值，则又增加1个方程 得新的参数估计值 式中 应用矩阵求逆引理，可得和的递推关系式 矩阵求逆引理 设A为n×n矩阵，B和C为n×m矩阵，并且A，A＋BCT和I+CTA-1B都是非奇异矩阵，则有矩阵恒等式 （4.2.2） 得到递推关系式 由于是标量，因而上式可以写成 （4.2.3） 最后，得最小二乘法辨识公式 （4.2.4） 有2种给出初值的办法 （1）设N0（N0n）为N的初始值，可算出 （4.2.5） （2）假定C是充分大的常数，I为(2n+1) ×(2n+1)单位矩阵，则经过若干次递推之后能得到较好的参数估计。[1][2][4] 2两种算法的实现方案 2.1最小二乘法一次完成算法实现 如果把式（1.1.6）中的取好足够的输入—输出数据以后一次计算出来，那么这种算法就式最小二乘法的一次完成法。 2.1.1最小二乘一次完成算法程序框图 2.1.2一次完成法程序 具体程序参见附录4 2.1.3一次完成算法程序运行结果 ans = 1.5000 0.7000 1.0000 0.5000 a1 = 1.5000 a2 = 0.7000 b1 = 1.0000 2.1.4辨识数据比较 1.5000 0.7000 1.000 0.5000 参数真值 1.500 0.700 1.00 0.50 误差 0 0 0 0 2.1.5程序运行曲线 2.2递推最小二乘法的实现 2.2.1递推算法实现步骤 1）输入M序列的产生程序，可以参见3