第六讲谱估计4.最大熵法.pptVIP

最大熵谱估计（AR模型和线性预测）;主 要 内 容 最大熵谱估计的基本原理 最大熵谱估计与AR模型谱估计、预测误差滤波法等效 最大熵功率谱的计算 (AR模型参数的计算） 最大熵谱估计（AR模型）的稳定性和阶数的确定 有附加噪声的AR过程的谱估计 最大熵谱估计的特点;最大熵的基本思想：就是根据已知数据信息，在 不进行任何新的假设(不增加任何虚假信息)的情 况下，合理地预测未知延迟离散时间上的相关函 数。即在根据已知信息外推相关函数时，每一步 都保持未知事件的不确定性或熵为最大。 信息量 可见熵是消息源发出每个消息的平均信息量。 ;对于高斯分布的随机变量，布卡乔夫证明了其熵和 自协方差矩阵间存在关系： 当时间序列为零均值时，熵和自相关函数之间存在 关系 ： 当过程为无限长时，用熵率作为信息的度量 时间序列功率谱密度和熵率的关系： 时间序列的频率范围是[-fc ，fc] ;从最大熵原理出发进行谱估计 若已知自相关函数Rx(m)的前2M+1个序列值，则选择 未知自相关函数要使： 从而可以外推出Rx(M+1)。并依此类推得到其它自相 关函数值。于是功率谱 ;若选择 可以得到 令 整理后得到 【最小相位(其零点都在单位圆之内) 最大相位】 令 ， 最大熵谱估计 ; AR谱和最大熵谱估计等价;可见，序列的最大熵功率谱和AR模型拟合所对应的 功率谱是等价的，并且 由于 ，所以 AR参数和自相关函数Rx(m)之间的关系为： 即Yule-Walker方程。AR模型谱估计实质是模型参数 的辨识问题。 ;预测误差滤波法和最大熵谱估计等价 ; 预测误差为： 当估值均方误差达到最小时，满足正交原理。即 简化后，得： 最小预测误差功率为：; 合并整理，得到： 可见，对同一数据列用AR模型和预测误差滤波所解 得的参数值是完全相同的。 预测误差滤波器是一个白化滤波器，滤波器的系统 函数为： x(n)的功率谱可求得：;利用Yule-Walker方程求解系数 很困难，因为要 进行矩阵求逆运算。 改进方法包括： Levinson-Durbin递推算法；（需要从时间序列x(n) 的有限个数据得到其自相关函数的估计值 ，可 能在计算AR参数时引入很大误差，导致谱线分裂与 谱峰偏移等现象。） Burg算法；（提出利用前、后向预测误差功率之和最小的方法来求得反射系数，进而求得预测误差滤波器系数。对应于格形滤波器。） ;最大熵（AR模型）谱估计的稳定性和阶数确定 ;阶数最优(用Mopt表示)的选取准则： 1．最终预测误差(FPE)准则 零均值情况下，Akaike给出使FPE最小的估值公式 M为AR模型的阶数，N为信号采样点数，P(M)为预测误差功率。 非零均值情况下，;2. 信息论(AIC)准则 Akaike提出最佳阶次的选择应使下式为最小值： AIC准则和FPE（最终预测误差）准则的关系是： 3．自回归(CAT)传递函数准则 parzen提出最佳阶数的选择应使得精确预测滤波 器和近似预测滤波器输出的预测误差之差的估值 为最小。即使 最小。 ;结论： 信噪比较高时，上述三种方法确定的阶数M基本一 致。当信噪比较低时，三种方法结果不同，给出的 M值偏低，其中以FPE方法较为正确。 最优阶数的计算： 上述各准则所确定的阶数，都可以在计算预测滤波 器参数（ 、 ）的每一次递推中求出。由于最 大熵谱估计与预测滤波器等价，而对于预测滤波器 中的 ，存在 ，因此在算出新值后 与以前的值作比较，若新值比以前的值大，则终止 迭代，得到最优阶数Mopt。;AR模型谱估计的稳定性;有附加噪声的AR过程的谱估计 ; 因此可以将x(n)看成一ARMA过程，其等效的白噪声 驱动源的平均功率为 ，既不等于 ，也不等于 等效的MA分支为B(z