《系统辨识》讲稿-第11讲.docVIP

《系统辨识》第11讲要点 第5章 线性动态模型参数辨识－最小二乘法 5.13 辅助变量法 5.13.1 辅助变量法原理 考虑如下模型 式中u(k)和z(k)分别为模型输入和输出变量；e(k)是均值为零、方差为的有色噪声；和为迟延算子多项式，记作： 其中na和nb 为模型阶次。由于e(k) 是有色噪声，利用最小二乘原理不能获得模型参数的无偏、有效、一致估计。 把模型写成最小二乘格式： 式中 为了获得模型参数的无偏、一致估计，设模型残差为： 可以证明，如果能够设法使上式中的残差序列与过去的数据序列不相关，则可获得模型参数 的无偏估计。为此，就须从过去的数据集合中设法衍生出一个有限维的向量，使之与残差序列不相关，即。这样，准则函数就可写成如下形式： 式中 上式可以看作加权阵取 的一种加权准则函数。极小化之，当非奇异时，可以获得模型参数的辅助变量估计： 这种辨识思想称作辅助变量原理，对应的辨识方法叫作辅助变量法。是从过去数据集合中引伸出来的向量，称作辅助向量，由此组成的称作辅助矩阵。不难证明，如果下面两个条件能够满足，则由算法获得的模型参数估计是收敛的，即有。 ① 是非奇异的； ② 。 通过适当选择辅助变量向量，上述两个条件是可以满足的。 5.13.2 辅助变量的选择 当噪声e(k)与模型输入u(k)不相关，且输入u(k)为持续激励信号时，可按下列方法之一选择辅助向量： ① ② ③ ④ 式中 为噪声模型的阶次。 特别应该指出，如果选第④种辅助向量，以此构成的辅助变量法相当于另一种称作相关二步法的辨识方法。这可简要分析如下： ① 当辅助向量选时，所构成的辅助变量算法相当是如下正则方程： 的最小二乘解，式中，为模型噪声向量。 ② 如果数据是平稳的，那么上述正则方程也可写成以相关函数表示的最小二乘格式： 式中相关函数定义为： ③ 对上述以相关函数表示的正则方程，运用最小二乘原理亦可获得模型的参数估计值。 ④ 这种先建立相关函数正则方程，即模型两边同乘以u(k-l)，并取数学期望，再求最小二乘解的方法就叫作相关二步法。它与辅助向量取时的辅助变量算法是等价的。 5.13.3 递推算法 和推导最小二乘递推算法一样，由辅助变量批处理算法可导出如下的递推计算形式，记作RIV(Recursive Instrumental Variable algorithm)： 同理，也可推导出辅助变量法的残差与新息的关系： 或 及准则函数J(k)的递推计算式 式中是 k 时刻的新息。 5.14 相关两步法 考虑如下模型 式中u(k)和z(k)分别为模型输入和输出变量；e(k)是均值为零、方差为的有色噪声；和为迟延算子多项式，记作： 其中，na和nb 为模型阶次，e(k)是零均值噪声，且与输入信号无关。 上述模型可变换成： 定义： 写成最小二乘格式： 说明：模型噪声已经不存在，是计算相关函数带来的误差。对上述最小二乘格式可利用最小二乘算法来估计模型参数。 注意：1、当输入为白噪声序列的时候，由，及：，我们有： 2、当输入是M序列时，由： 我们有： 3、当取时，可将模型 写成： 若令 则有 或 写成 对该式运用最小二乘算法，可得 得到的结果与辅助变量法的结果是一致的。 5.15 多级最小二乘法 考虑如下模型 式中u(k)和z(k)分别为模型输入和输出变量；v(k)是均值为零、方差为的白噪声。应用广义最小二乘法时，当噪声较大时，很难得到全局最小。现在用多级最小二乘法来辨识。 第一级：辅助模型参数辨识 令： 则有： 置： 则有： 由此可以辨识参数： 其中： 第二级：过程模型参数辨识 由于： 令： 比较上式两边的次数，有： 其中： （见书P190） 用的估计值代替上面的矩阵得，则有： 由此可以辨识参数： 第三级：噪声模型参数辨识 由： 令： 比较上面式子两边得次数，我们有： 其中： （见书P190） （见书P190） 用第一级、第二级获得的估计值代替上式中的，得： 由此可以辨识参数： 注意：和广义最小二乘法的比较。 5.16 Yule-Walker辨识算法 考虑如下AR模型： （A） 其中：是可以观测的数据序列；是不可观测的、均值为零、方差为1的白噪声序列；并且 记模型残差为： 取准则函数为： 其中：，极小化准则函数，令： 可得： （B） 即有： 因此，可得： 其中的自相关函数可由下式计算： 其中为数据的长度。 令： 我们有： 上式称作Yule-Walker方程，矩阵为Toepli