三线性系统参数估计的最大似然法-Read.DOCVIP

实验三 线性系统参数估计的最大似然法 实验目的 掌握最大似然估计的原理，使用最大似然估计和递推最大似然估计方法对线性系统参数进行估计； 了解初始值设定、采样点数、遗忘因子等因素对参数估计结果的影响。。 实验原理 最大似然（ML）估计方法于1912年Fisher提出。与其他估计方法相比较，它具有以下优点： 可用于多种系统模型（包括非线性模型）和多种试验条件下； 具有很好的渐进性质； 其他一些估计方法如最小二乘法可看作最大似然法的特例。 设被辨识的系统模型为CARMA模型： = （1） 式中 若记截止到N时刻所观测到的输入、输出数据集合分别为 则 = （2） 再设为独立于和、且概率密度服从于正态分布的零均值白噪声，方差为，则上式可改写为 = （3） 其中 （4） 在实际辨识中，因为参数的真值不能精确得到，只能获得其估计值，因而也不能精确得到。这样只得用其估计值 （5） 来近似代替。这里仍认为服从均值为零的正态分布，方差为。于是，参考（3）式可定义似然函数为 （6） 对上式两边同时取对数，可得 lnL(, （7） 式中 （8） 欲使似然函数取极大，等价于 （9） 可以看出上式中内层极大化 （10） 由于）是的非线性函数，按上式对求极小需采用最优化方法，本实验中采用牛顿法。 计算步骤 下面分别介绍最大似然估计法的迭代算法和递推算法。 3．1 迭代算法步骤 采样N组数据，可获得数据和； 计算 （11） 式中： ， （12） （3）计算 （13） 式中： （14） （15） （4）根据以上公式可求出参数估计值 (16) 式中 (17) 为最优搜索步长，是每布迭代开始时置的步长（一般在迭代开始时取）， , (18) 3．2 递推算法步骤 本方法每采样一次估计一次，取 （19） 其中为遗忘因子。递推公式如下： （20） （21） （22） 初始值设定： ； （23） 实验过程 本实验辨识对象采用如下CARMA模型： 仿真结果 极大似然仿真图 递推算法仿真图 2.分析参数 采用递推算法，改变遗忘因子的大小（=0.9~1.0），观测其对递推估计结果及收敛速度的影响，打印结果，并分析其原因； 取为0.9 结论：遗忘因子较大时对参数的跟踪效果较好，因为遗忘因子越大时各参数权值越相近，越接近真实情况。 采用递推算法，改变初始值的设定及噪声幅值，观察对估计结果的影响，打印结果，并分析其原因； 改变p0的初值，p0=8000；并且输入噪声的两个参数分别为:0.5;0时： 结论：随着初值p的增大,输出的J值的波动越大,即方差越大.递推算法对噪声非常敏感. 附录 说明 试验中考虑到系统动态分量平均值不为零，设定系统工作点为=0.1，，程序中系统动态分量有下面的公式来计算： ， ， 程序中主要变量代表意义如下： ， ，，，， 递推ML估计算法框图 源程序 1.极大似然 clear all; close all; clc; % M array construction Np=15;r=70; X1=1;X2=1;X3=1;X4=1; m_length = r*Np; a=1; for i=1:1:m_length Y4=X4;Y3=X3;Y2=X2;Y1=X1; X4=Y3;X3=Y2;X2=Y1; X1=xor(Y3,Y4); if Y4==0 M(i)=-a; else M(i)=a; end end figure; i=1:1:m_length; plot(i,M); % 白噪声 noise = zeros(1,m_length); for i=1:1:m_length noise = noise + 0.5*rands(1,m_length); end noise = noise/12; %noise = temp; % parameter of system n=2;d=0;a1=-1;a2=0.5;b1=1;b2=0.5; S_U0=0.1;S_Y0=0.2; %