第6讲谱估计4.最大熵法.ppt

最大熵谱估计（AR模型和线性预测） 在一定条件下，ARMA或MA模型可以用阶次为无穷大的AR模型来近似。条件是：信号是平稳的，且方差为有限值。由于ARMA和MA模型参数确定需要求解非线性方程，而AR模型参数用线性方程即可求出，因此AR模型被研究和使用得最多。 Burg提出最大熵谱估计（Maximum Entropy Spectra Estimation）,Van Den Bos证明了对一维高斯平稳信号，AR谱、线性预测和最大熵谱等价。 主 要 内 容 最大熵谱估计的基本原理 最大熵谱估计与AR模型谱估计、预测误差滤波法等效 最大熵功率谱的计算 (AR模型参数的计算） 最大熵谱估计（AR模型）的稳定性和阶数的确定 有附加噪声的AR过程的谱估计 最大熵谱估计的特点 最大熵的基本思想：就是根据已知数据信息，在 不进行任何新的假设(不增加任何虚假信息)的情 况下，合理地预测未知延迟离散时间上的相关函 数。即在根据已知信息外推相关函数时，每一步 都保持未知事件的不确定性或熵为最大。 信息量 可见熵是消息源发出每个消息的平均信息量。 对于高斯分布的随机变量，布卡乔夫证明了其熵和 自协方差矩阵间存在关系： 当时间序列为零均值时，熵和自相关函数之间存在 关系 ： 当过程为无限长时，用熵率作为信息的度量 时间序列功率谱密度和熵率的关系： 时间序列的频率范围是[-fc ，fc] 从最大熵原理出发进行谱估计 若已知自相关函数Rx(m)的前2M+1个序列值，则选择 未知自相关函数要使： 从而可以外推出Rx(M+1)。并依此类推得到其它自相 关函数值。于是功率谱 若选择 可以得到 令 整理后得到 【最小相位(其零点都在单位圆之内) 最大相位】 令 ， 最大熵谱估计 AR谱和最大熵谱估计等价 对于M阶AR模型： x(n)的估值 估计误差 输入视为e(n)，输出视为x(n)，则系统函数为 ： 设激励信号e(n)为零均值，方差为 的白噪声序列， 功率谱密度为Pn，则数据序列x(n)的功率谱为： 而 即AR谱估计为： 可见，序列的最大熵功率谱和AR模型拟合所对应的 功率谱是等价的，并且 由于 ，所以 AR参数和自相关函数Rx(m)之间的关系为： 即Yule-Walker方程。AR模型谱估计实质是模型参数 的辨识问题。 预测误差滤波法和最大熵谱估计等价 预测：由随机序列x(n)过去和现在的M个值来预测下 一个取样值x(n+1)。即 通过合理选择预测系数，使预测均方误差达到最小 确定出的M阶FlR滤波器，称为数字预测滤波器。 预测误差为： 当估值均方误差达到最小时，满足正交原理。即 简化后，得： 最小预测误差功率为： 合并整理，得到： 可见，对同一数据列用AR模型和预测误差滤波所解 得的参数值是完全相同的。 预测误差滤波器是一个白化滤波器，滤波器的系统 函数为： x(n)的功率谱可求得： 利用Yule-Walker方程求解系数 很困难，因为要 进行矩阵求逆运算。 改进方法包括： Levinson-Durbin递推算法；（需要从时间序列x(n) 的有限个数据得到其自相关函数的估计值 ，可 能在计算AR参数时引入很大误差，导致谱线分裂与 谱峰偏移等现象。） Burg算法；（提出利用前、后向预测误差功率之和最小的方法来求得反射系数，进而求得预测误差滤波器系数。对应于格形滤波器。） 最大熵（AR模型）谱估计的稳定性和阶数确定 阶数确定： 必须正确选择模型的阶数。阶数M估计得太小，对序列长度N的序列的最大熵谱估计会过分平滑，不能给出足够的分辨率，结果可能仅出现被测信号中最易预测，变化最缓慢的频率点的峰值。阶数M估计得太大，拟合会产生急剧变化和振荡，所得的谱估计具有虚假的细节。在低噪声或无噪声时，AR模型的阶数过