2016系统辨识1选编.ppt

同时， 满足对称非负定的假设，显然， 固定时有 预报误差的加权平方和， 是权矩阵 如果 的选择不依赖于噪声的协方差阵的估计 ，则称其为参数 的最大似然估计，并记为 考虑 的情况 输出预报为： 预报误差向量为： 当差分模型所表示的线性系统受白噪声作用，噪声的协方差阵为 ，则最大似然估计等于最小二乘参数估计。 对一般情况，最大似然估计与最小二乘估计是不同的。 现在考虑 的选择依赖于 的情况 此时，最大似然估计原理可以叙述为，先求协方差阵 ，使得 在求 ，使得 为此，对对数似然函数求偏导，并令其等于零解得： 即：噪声协方差阵R的最大似然估计就是预报误差的样本协方差阵。 于是，有 但是 所以有 由此得 使上式成立的参数向量就是参数的最大似然估计。 因为 它是参数的非线性函数，所以此优化问题一般需要借助于非线性规划来求解。 最大似然估计的Newton--Raphson算法 考虑如下线性系统 参数向量为 又设 则系统为 预报误差 显然，它是参数向量的非线性函数，则 这不是一个二次型优化问题，可用非线性规划方法求解。 最大似然估计的Newton--Raphson算法 假定 对任意 可进行泰勒级数展开。即 如果略去高阶项，则对参数的一阶偏导数为 如果 ，令上式右边等于零，可得参数的最大似然估计 为了达到一定的计算精度，Newton—raphson算法要进行迭代计算，其步骤是 1、迭代次数L=0, 取初始值 2、第L次迭代，以 作参考点，计算得 3、计算新的估计 4、返回到步骤2、，直至收敛 离散时间差分模型的递推参数估计 特点：可以利用更多的数据信息；要求的存储空间小； 可以在线辨识；可以跟踪参数的缓慢变化的趋势， 即有自适应能力。 递推最小二乘算法 已知 假定 已经施加于系统， 已量测得到，新的数据列为： 从而有 仍假设对适当大的N， 可逆， 离散时间差分模型的递推参数估计 令 ， 则有 根据矩阵求逆引理可得 于是有 离散时间差分模型的递推参数估计 令 叫卡尔曼增益阵 则有递推最小二乘公式 令 表示基于输入、输出数据的一步提前预报 而预报误差为 离散时间差分模型的递推参数估计 于是有 注意：1、递推时，初始值可取 式中 c 为充分大的数； 2、在实际计算时，每一步递推都必须保证 的对称性和正定性； 3、 不对称，递推估计可能发散。 令由此 产生的 记为 ，则有 离散时间差分模型的递推参数估计 对于MIMO系统，其递推公式完全类似，为 其中，卡尔曼增益阵为 渐消记忆的递推最小二乘算法 因 ，而 所以有 ，即 越来越小，从而使 越来越小。使基本修正量 对参数估计失效（不在起作用），这就是“数据饱和”现象。 由于存在计算上的舍入误差，可能使 失去正定性，从而造成递推算法的发散。 为克服“数据饱和”现象，可引入”遗忘因子“，使其具有自适应能力。 取权矩阵，其中 为实数，称为“遗忘因子”。 这意味着历史数据对当前的参数估计有不同的权重，距离现在越远的数据，权系数越小，即逐渐“遗忘”的办法减小历史较长数据的作用。 由 令 有 因为 所以 式中 这就是逐渐消记忆的递推最小二乘公式 因为 ，所以 不一定成立，因此克服了“数据饱和”现象。 一般情况，取 较合适。 除此之外，还有所谓的限定记忆的递推最小二乘算法。 适用于有色噪声的改进递推最小二乘算法 1、递推广义最小二乘（RGLS）算法 先递推系统参数 ，再计算残量，递推估计噪声模型参数，对数据进行滤波，在返回递推系统参数，直至收敛或长期运行。  2、递推扩展最小二乘（ELS或RELS）算法 考虑系统 先假设噪声可以直接测量，令 则有 但是，事实上噪声是不能直接量测的，且令 其中