Lecture 16 矢量估计、一般高斯信号估计.ppt

Lecture 16 矢量估计、一般高斯信号估计 矢量估计 随机矢量的贝叶斯估计 非随机矢量的最大似然估计 矢量估计量的性质 非随机矢量函数估计的克拉美-罗界 随机矢量的贝叶斯估计 最小均方误差估计 第j个参量的最小均方误差估计为： 用矢量表示为： 最大后验估计 式中 非随机矢量的最大似然估计 如果被估计的矢量是非随机矢量 ，则应采用最大似然估计。 最大似然方程组： 它是由M个方程组成的联立方程，可简明表示为： 矢量估计量的性质 主要讨论无偏估计量的均方误差的下界，即克拉美-罗界问题。 非随机矢量情况 无偏估计量的均方误差： 均方误差满足： 式中， 是 阶矩阵 的第i行第i列元素； 矩阵J的元素为： 矩阵J称为Fisher信息矩阵，它表示从观测数据中获得的信息。 所以， 是 的均方误差的下界，即克拉美-罗界。 矢量估计量的性质 当且仅当 不等式取等号 若对 的每一个元素 等号均成立，称为联合有效估计 例1 Fisher信息矩阵为 假定 是联合有效的，求 和 的均方误差表达式 解 矢量估计量的性质 随机矢量情况 估计的误差矢量为： 估计矢量的均方误差阵为： 矢量估计量的性质 当且仅当 或 不等式取等号 信息矩阵JT=数据信息矩阵JD +先验信息矩阵JP 例2 假定信号s (t;θ)是由两个独立的Gaussian RV a和b同时对正弦波的频率和幅度进行调制而产生的，i.e.， 观测信号 求同时估计a和b时的均方误差下界 解 对x(t)进行正交级数展开，展开系数为xk, k=1,2,… 取前N项构成 非随机矢量函数估计的克拉美-罗界 设有M维非随机矢量 ，我们希望估计M维矢量 的L维函数 ，这就是非随机矢量函数的估计问题。 设L维估计矢量 是L维矢量函数 的任意无偏估计矢量。则估计矢量的均方误差阵为： 上式就是矢量函数估计的克拉美-罗不等式，不等式右边就是克拉美-罗界。 一般高斯信号参量的统计估计 线性观测模型 高斯噪声中非随机矢量的最大似然估计 高斯随机矢量的贝叶斯估计 线性观测模型 线性观测方程称为线性观测模型： 式中 高斯噪声中非随机矢量的最大似然估计 高斯噪声中非随机矢量的最大似然估计矢量为： 考察 的主要性质： 1.无偏性： 最大似然估计量 是无偏估计量。 2.有效性： 是有效估计量。 由于 是无偏有效估计量，所以估计矢量的均方误差阵 就是估计矢量的协方差矩阵 ，且取克拉美-罗界，有： 高斯随机矢量的贝叶斯估计 后验概率密度函数 的统计特性： 均值矢量： 协方差矩阵： 最小均方误差估计： 高斯随机矢量的贝叶斯估计 最大后验估计 最大后验估计矢量： 估计的均方误差阵： 最小均方误差估计与最大后验估计的等同性 矩阵逆引理 122 高斯随机矢量的贝叶斯估计 假设 则，随机矢量的最大后验估计为满足下述方程的解 Lecture 16 –矢量估计、一般高斯信号估计 T