第二十三讲：估计的性能,最小均方估计.pptVIP

* 7.4 估计量的性能 无偏性、有效性、一致性 1 性能指标 （1）无偏性 ?为确定性参量（非随机参量） ?为随机参量 渐近无偏 （2）有效性 方差越小，估计越有效 在无偏估计中，方差最小的估计称为有效估计量 随着观测数据的增加，估计依概率收敛于真值 3. 一致性 先验信息的利用，将有利于提高估计的性能 例：高斯白噪声中未知电平的估计 最大似然估计（未利用任何先验信息） 比较 的均方误差 2. 估计量的CRLB 假定满足正则条件 则 当且仅当 几点说明： （1） 正则条件 关键是积分与求导可交换次序，一般都满足 不满足的情况，概率密度非零的区间与被估计量有关 如：概率密度为(0,?)上均匀分布，而?是被估计量。 (2) I(?)称为Fisher信息，I越大，越有可能得到好的估计 (3) 如果 则有效估计量存在，即 为有效估计量 (4) 如果有效估计量存在，则该有效估计量一定是最大似然估计 (5) 如果有效估计量不存在，则最大似然估计 的方差不一定是最小的。 例7.8 高斯白噪声中恒定电平的估计 估计是无偏的。 有效估计量存在 是否为有效估计量？ 随机参量的CRLB 任何无偏估计的均方误差满足 等号成立的条件 如果有某个无偏估计达到CRLB,那么该估计必定是最大后验概率估计.而最小均方估计的均方误差也是最小的,所以这时最小均方估计与最大后验概率估计等价. 例7.10 高斯白噪声中的DC电平估计 由例7.3 无偏估计 是否达到CRLB？ 满足等号成立的条件 7.5 线性最小均方估计 (Linear Minimum Mean Square Estimate, LMMSE) 1. 估计原理 讨论： （1）线性最小均方估计是无偏估计 （2）线性最小均方估计满足正交原理 估计误差与任意的观测数据正交。 （估计所用到的那些观测） （3）估计的均方误差 =0 例7.11: 设观测模型为zi=s+vi ，i=1,2,..，其中随机参量s以等概率取{-2,-1,0,1,2}诸值，噪声干扰vi以等概率取{-1,0,1}诸值，且E[svi]=0，?ij，试根据一次、二次、三次观测数据求参量s的线性最小均方估计。 单次观测 两次观测 三次观测 2. 矢量形式的最小均方估计