信号检测与估计知识点总结(2).docVIP

第三章 估计理论 估计的分类 矩估计：直接对观测样本的统计特征作出估计。 参数估计：对观测样本中的信号的未知参数作出估计。待定参数可以是未知的确定量，也可以是随机量。 点估计：对待定参量只给出单个估计值。 区间估计：给出待定参数的可能取值范围及置信度。 (置信度、置信区间) 波形估计：根据观测样本对被噪声污染的信号波形进行估计。预测、滤波、平滑三种基本方式。 已知分布的估计 分布未知或不需要分布的估计。 估计方法取决于采用的估计准则。 估计器的性能评价 无偏性：估计的统计均值等于真值。 渐进无偏性：随着样本量的增大估计值收敛于真值。 有效性：最小方差与实际估计方差的比值。 有效估计：最小方差无偏估计。达到方差下限。 渐进有效估计：样本量趋近于无穷大时方差趋近于最小方差的无偏估计。 一致性：随着样本量的增大依概率收敛于真值。 Cramer-Rao界： 其中 为Fisher信息量。 最小均方误差准则 模型：假定： 是观测样本，它包含了有用信号 及干扰信号 ，其中 是待估计的信号随机参数。根据观测样本对待测参数作出估计。 最小均方误差准则：估计的误差平方在统计平均的意义上是最小的。即使 达到最小值。此时 从而得到的最小均方误差估计为： 即最小均方误差准则应是观测样本Y一定前提下的条件均值。需借助于条件概率密度求解，是无偏估计。 线性最小均方误差准则 线性最小均方误差准则：限定参数估计结果与观测样本间满足线性关系。即待估计参数是观测信号的线性函数。即 若 ，则有 对于任意的B，估计的均方误差为： 对B求一阶偏导数，并使其等于0，可得到 即 其中 是观测样本的自相关矩阵， 是待测参量与观测样本的互相关矩阵。 最小二乘估计 最小均方误差准则下的估计是观测样本Y一定前提下的条件均值，需借助于条件概率密度求解。 线性最小均方误差准则通过增加一个待估参数与观测样本之间满足线性关系的约束，可以放宽对后验概率密度的要求，但仍需借助于两个相关函数求解。 最小二乘准则是一种在先验信息要求上较为宽松的估计准则。 模型假设：观测样本满足线性观测方程。且在M次观测过程中待测参数值保持不变。 观测方程为： 其中Y是观测样本矩阵，H为观测矩阵，θ 是待估计参数，N为观测噪声。 性能评价指标及优化准则： 瞬时误差平方值最小化。即 令 为最小。通过对 求偏导数并使其等于0，得到 若 存在逆矩阵，则得到最小二乘估计为： 可见，最小二乘估计，只需知道观测方程的观测矩阵H，对于待估计参数、观测样本、观测噪声的统计特性，不需要任何先验知识，这是其非常具有吸引力的一个重要原因。简单，实用。 若噪声是零均值的，最小二乘估计是无偏估计。 最小二乘估计是观测样本的线性估计。 加权最小二乘估计： 通过加权处理可以使最小二乘估计的估计误差降低。 加权最小二乘估计的性能优化准则为： 通过对 求偏导数并使其等于0，得到 若 存在逆矩阵，则得到最小二乘估计为： 加权最小二乘估计是观测样本的线性估计。 当观测噪声均值为零时，加权最小二乘估计是无偏估计； 当 时，加权最小二乘估计的误差矩阵可达到其最小值。此时估计值为有效估计。 最大似然估计 观测样本Y一定，已知似然函数 ，θ为似然函数的参量，所谓θ的最大似然估计是指： 由于对数函数为单调递增函数，最大似然估计也可以定义为： 对指数型概率密度函数，这样定义计算上更方便。也可以由以下方程求出： 若观测样本Y满足线性方程 ，N为均值为零矢量，自相关矩阵为R的高斯噪声，θ的最大似然估计为： 估计误差矩阵为： 对高斯噪声背景，当加权最小二乘估计取最优加权值时，二者相等。即当 时， 重要性质：对某个特定的估计问题，如果存在有效估计，最大似然估计必是其中之一。 对于某个估计问题，有效估计不一定存在。如果有有效估计，则有效估计未必唯一（即，达到CLRB下限的最小方差有多个） 高斯白噪声背景下正弦信号的最大似然估计： 假定观测样本为： 其中 为未知确定量。 噪声是零均值高斯白噪声；即 为未知量。 幅度估计：归一化的幅度谱 相位估计：相位谱的相反数 频率估计：幅度谱平方为最大时的频率 其中