第四讲系统辨识及滤波 最小二乘法辨识.ppt

第5章 最小二乘法辨识 把待辨识的系统看作“黑箱”，只考虑系统的输入－输出特性，而不强调系统的内部机理。 本章主要讨论单输入－单输出系统的差分方程作为模型的系统辨识问题。 差分方程模型的辨识问题包括阶的确定和参数估计2个方面。 本章讨论采用最小二乘法进行参数估计。 1、最小二乘法 设单输入－单输出线性定常系统的差分方程为 （1） 式中： 为输入信号； 为理论上的输出值。 的观测值 可表示为 式中 为随机干扰，则： 将 代入差分方程中，有 （4） 往往把 看作白噪声 设 则式（4）可写成 （5） 假设 不仅包含了 的测量误差，而且还包含 的测量误差和系统内部噪声。 假定 是不相关随机序列。 现分别测出 个输入输出值 ， 列出Ｎ个方程为： 设 可得到 （8） 式中： 为N维输出向量； 为N维噪声向量； 为 维参数向量； 为 测量矩阵。 式（8）式一个含有 个未知参数，由N个方程组成方程组。 当 ，方程数少于未知数数目，则方程组的解是不定的。 当 ，方程数正好与未知数相等，当噪声 时，就能准确的解出 如果噪声 ，则 从上式可以看出噪声 对参数估计有影响，为了尽量减少噪声 对 估值的影响，应取 此时，要采用数理统计的方法求 的值，以减少噪声对 估计值的影响。 最小二乘估计算法 设 表示 的最优估值， 表示 的最优估值，则有 式中 设 表示 与 之差，即 将 称为残差。把 分别代入上式可得残差 。设 则有 最小二乘估计要求残差的平方和为最小，即按照目标函数 为最小来确定估值 。 求J对 的偏导数并令其等于0，可得 J为极小值的充分条件是 即矩阵 为正定矩阵。 这种辨识方法称为一次完成的最小二乘估计，用来辨识的数据长度是 。算法表明，全部 组数据是一次计算完毕的，这种方法常用于离线辨识。 优点：辨识精度高。 缺点：每取到一组新数据后，都需要重新解方程组，每算一次都需要用全部数据，致使计算的存储量越来越大，计算量也逐渐增加。 2、最小二乘递推算法 令 则有 考虑目标函数 极小化，可求得 （10） 当新数据 取得时，有 其中： 令 则 应用矩阵求逆引理，可得 和 的递推关系式 矩阵求逆引理：设A为 矩阵，B和C为 矩阵，并且A， 和 都是非奇异矩阵，则有矩阵恒等式 令 ， ， ，根据引理有 由于 为标量，则 而 由于上式中第二项为 把它代入原式，消去同类项，经整理得 此式即为最小二乘的递推算式。 利用此式计算 ， 时要已知 ， （前次估计值）， （历史数据）和新观测值 。 算法所需存贮空间分析： 算法中， 为2n+1个存贮单元（ ），而 是 维矩阵，显然，将 换成 后，存贮量大为减少（因为n为模型的阶数，一般远远小于N） 递推公式的直观意义： 如果用 表示预报值，