系统辨识课件5.pptVIP

8.6 Hankel矩阵定阶 定理：当系统中不存在噪声，则有 时，对于所有k， 但存在噪声则无上述结论，因此定义指标： 当D达到极大时L值即为系统阶次n。 由脉冲响应序列 来定阶。 特点： Hankel矩阵： --阶次 * * 第4章 极大似然法辨识 方法特点： (1)无偏估计方法； (2)适用于ξ(k)相关情况； (3)当系统信噪比较小时有较好的估计效果； (4)算法稳定度好； (5)是一种递推算法； (6)实际工程中广泛使用。 辨识准则： 以观测值的出现概率最大为准则。 4.1 辨识基本原理 可见，似然函数最直接的取法为： 观察值概率分布密度函数的乘积 辨识准则：以观测值的出现概率最大作为准则。 如何构造指标函数？ 称为似然函数 因此，使该似然函数为最大时的参数估计值就称为： 极大似然参数辨识 简称ML参数辨识方法。 定义似然函数L为： ML辨识基本原理 设某离散随机过程{V(k)}与待辨识参数θ有关。 其分布密度为： 若测得n个独立的观测值 其概率分布密度 已知。 辨识θ的原则就是使得L达到极大值，即： 通常对L取对数求解，即 lnL取得极大则L取得极大，则有： 由(4.1)或(4.2)解出的θ即为极大似然估计 (4.1) (4.2) 4.2 差分方程的极大似然辨识 1.白噪声情况 式中，ξ(k)为高斯白噪声序列且与u(k)无关。 系统差分方程： 上式写成向量形式为： 系统估计残差为： 设e(k) 方差为 则似然函数L为： 由于ξ(k)为高斯白噪声，故而e(k)也为高斯白噪声。 因为高斯分布概率密度函数： 则依极大似然辨识原理有： 解上述方程有： 可见在ξ(k)为高斯白噪声序列这一特殊情况下，极大似然辨识与一般最小二乘法辨识具有相同结果。 2.有色噪声情况 其向量形式为： 式中： 预测误差e(k)为： 系统差分方程： 因为ε(k)为高斯白噪声，故而e(k)可假设为零均值的高斯白噪声。则似然函数L为： 由 记 讨论：y(k)出现的概率最大，亦即J达到极小值。即使对概率密度不作任何假设，使J极小也是极有意义的。因此，ML估计就变成了如何求取J极小的算法。可见，使L为最大的估计值，等价于使J为极小的估计值。 式中： 称为J的梯度矩阵 称为J的海赛矩阵 求J的极小值问题只能采用循环迭代方法。 常用的迭代算法有：拉格朗日乘子法和牛顿-拉卜森法。 牛顿-拉卜森法的迭代公式： 注意：上式中J的梯度矩阵和海赛矩阵，依不同辨识对象，需进行详细推导，推导出矩阵中每个元素的具体表达式。推导时要非常仔细。 Newton-Raphson迭代计算步骤 (1) θ初始值的选定 任意取值 用基本LS辨识获取 (2) 计算预测误差(残差)及J值 指标函数J值： 预测误差： 误差方差估计值： (3)计算梯度矩阵及海赛矩阵 当估值比较接近真值θ时，e(k)接近于0，后一项可忽略，则海赛矩阵为： (4) 按牛顿-拉卜森迭代公式计算新的估计值 (5) 计算残差方差比 则终止迭代。 返回(2)进行循环迭代，若： 的解算 则各参数的偏导数如下： 上式均为差分方程，其初始条件均为零。通过求解上述差分方程，可得到e(k)对各参数的全部偏导数。 4.3 递推极大似然法 递推ML算法的特点： 按不同的估计方法，可得不同的递推极大似然算法。 常用的有按牛顿-拉卜森法、二次型函数逼近法的递推ML算法。 (1)其性能介于递推广义最小二乘法与离线ML法之间； (2)收敛性好，以概率1收敛于局部极小值； (3)在高噪声时，采用递推ML效果好。 递推极大似然法由同学们自学。 目的：θ随时间t变化而变化，估计θ 第5章 时变参数辨识方法 卡尔曼滤波法：采用卡尔曼预测公式估算。 方法：仍为老方法，只是更加强调新数据作用。 矩形窗法： 只取后N个数据，前面全抛弃。 本章自学 指数窗法： 第6章 多输入—多输出系统的辨识 主要方法有： 本章自学 MIMO的最小二乘辨识 MIMO的极大似然辨识 第7章 随机时序列模型的建立 本章自学 观点：无“因”有“果”模型的辨识，即只有输出而无输入 模型的建立及辨识。 上述知识在《随机过程》课程讲述。 主要随机模型： 回归模型、自回归模型、移动平均模型、 自回归移动平均模型 第8章 系统结构辨识 目的：确定系统模型阶次n。 常用的定阶方法有以下六种： (1)按残差方差定阶 (2) AIC准则 (3)按残差白色定阶 (4)零点—极点消去检验定阶 (5)利用行列式比定阶 (6)利用Hankel矩阵定阶 重点掌握前三种定阶方法。 8.1 按残差方差定阶 定阶原理： (1)按估计误差方差最小定阶 (2)F检