《系统辨识》讲稿-第13讲.docVIP

《系统辨识》第13讲要点 第6章 模型阶次的辨识（结构辨识） 6.5 Akaike准则模型阶次辨识法 6.5.1 引言 考虑线性模型： 为了确定以上参数模型的阶次，Akaike引入了如下的准则： （A） 其中AIC表示Akaike Information Creterion，为参数的极大似然估计，为在条件下的似然函数，为模型参数的估计值。 （A）是一准则函数，我们要找使得（A）达到最小值的作为模型的阶次。 6.5.2 定性解释 ① 极大似然估计的物理解释 物理意义：对一组确定的随机序列，设法找到参数估计值，使得随机变量在条件下的概率密度函数最大可能地逼近随机变量在（真值）条件下的概率密度函数，即有： ② Kullback－Leibler信息测度 我们称： 为Kullback－Leibler信息测度。可以证明： ③ Kullback－Leibler信息测度与极大似然参数估计的关系 ④ AIC准则函数与模型阶次的关系（P349图13.7） 6.5.3 AIC准则的推导 ① Kullback－Leibler信息测度的性质 （1） （2） （3） 即 ② AIC准则的推导 6.5.4 AIC定阶法 白噪声情形 给定参数，模型为： 式中u(k)和z(k) 分别为模型输入和输出变量；v(k) 是均值为零、方差为服从正态分布的不相关随机噪声。令： 其中： 由此可得： 输出变量在条件下的似然函数为： 对应的似然函数为： 由极大似然原理可得： 将上面两式代入对数似然函数，有： 将此式代入（A），去掉常数项，我们得到此情形下的AIC准则： 注意：噪声按下式计算。 因此，对不同的，计算的值，当的即为模型的参数值。 ② 有色噪声情形 给定参数，模型为： 式中u(k)和z(k) 分别为模型输入和输出变量；v(k) 是均值为零、方差为服从正态分布的不相关随机噪声。 此时的对数似然函数为： 噪声方差的极大似然估计为 此式代入对数似然函数，有： 其中为上面模型参数的极大似然估计值，噪声方差的估计为： 由此可以得到此情形下的AIC准则： 只要对不同的，计算的值，当的和即为模型的参数值。 6.5.5 AIC定阶法与F检验定阶法的关系 6.6 利用最终预报误差准则估计模型的阶次（FPE定阶法） 6.6.1 白噪声情形 考虑如下模型 式中u(k)和z(k) 分别为模型输入和输出变量；v(k) 是均值为零、方差为服从正态分布的不相关随机噪声； 和为迟延算子多项式，记作 令： 则有： 有最小二乘法或极大似然法可得参数的估计为： 模型的残差为： 残差方差的估计值为，则有： （*） 其中： 模型的预报误差： 其中： 取，构成预报误差序列，则预报误差方差的估计值为： 两边令，利用，我们有： 由于： 引进维的非奇异矩阵，使得，作变换： 则有，因此。 由此，可得： 于是有： 将（*）式代入，有 由此可得最终预报误差准则如下： 其中：。 应用时，只要找出使得最小的，即为模型“最好”的阶次。 6.6.2 有色噪声情形（略） 6.6.3 FPE定阶法与AIC定阶法的关系 6.7 状态空间模型阶次的辨识 考虑SISO过程，状态方程描述如下： 其中输入是方差为的白噪声，输出噪声是方差为的百噪声。 假定系统是可观的，则矩阵 为非奇异矩阵，且第个向量必可以表示为： 其中为适当的常数。 令线性变换： 将上面的状态方程化为标准形式： （A） 其中： 令系统（A）状态的协方差阵为： 则有： 定义输出的相关函数为： 利用式（A），我们有： 由于： 因此， 同理： （B） 由式，两边右乘，由于 有： （C） 式（C）代入式（B），我们有： （D） 用代替上式的，可得下列方程： 其中为充分大于数据的长度，的任意整常数，且： 定义以下乘积矩阵： 则由线性约束条件（D）可知： 就此我们可以引入确定状态空间模型阶次的步骤如下： 计算输出数据的相关函数： 也可以采用下面的式子进行在线计算： 其中：为收敛因子，且满足： 简单的，可以选为： 利用相关函数数据构造矩阵和，当时，依次计算的值，如果发现对于没个时，，而，则可判定其阶次为。 由于相关函数计算具有误差，当发现的值较的值有显著减小时，可判定其阶次为。 1