现代信号处理03a.docVIP

参量估计 信号估计（Estimations） 在受噪声干扰的观测中信号参量和波形的确定问题 数学基础：统计估计理论、滤波理论 估计理论－研究的对象是随机现象。 －根据受到噪声污染的观测数据来估计随机变量和随机过程的一种数学运算。 参量估计－被估计的量是随机变量（静态估计：参量随时间保持不变或只发生缓慢变换） 波形估计－被估计的量是随机过程（动态估计） 将参量估计和波形估计有机地结合起来，构成统一的估计理论。估计模型如下所示，分为四个部分 参量空间－源的输出为参量，视为参量空间的一点 概率映射－从参量空间到观测空间的概率映射，这是控制θ对观测值影响的概率规则。 观测空间－一般观测空间是有限维的。 估计规则－是观测空间到估计量的映射。 参量估计理论关心的问题：假定随机变量具有一累积分分布函数，是一特定概率分布集合的一员，并不知道究竟是其中的那一个。 参量估计的目的：在有限个信号观测样值中，以最佳方式估计该参量。 若接收机判决某一假设为真，但与信号有关的某个参量是未知的。目的是在有限数目的信号观测采样中，以最佳的方式来估计这些参量。 设z1,z2,...,zN为随机变量z的独立同分布的N个观测样值，而f(z1,z2,...,zN)是用来估计参量θ的观测样值函数（统计量），称： ＝f(z1,z2,...,zN) （3－1） 为参量θ的估计量。用表示对参量θ的估值。的均值即为E[]=E[f(z1,z2,...,zN)]。 通常在参数理论估计中，把一个真实参数θ的估计方法或估计值称为θ的估计子。估计子是一个统计量，它在某种意义下“最接近”真实参数θ。 参数估计理论的两个核心问题： 对估计子与真实参数的接近度进行量化定义； 研究不同的估计方法以及它们的性能比较。 最佳估计－最优估计准则； 随机参量－其特性用概率密度来表征－贝叶斯估计 非随机参量－仅为一般的未知量－最大似然估计 §3－1、估计准则 无偏估计(unbiased estimation) 若估计量estimator的均值等于被估计量的均值（随机参量）E[]=E[θ]或等于被估计量的真值（非随机参量）E[]=θ。则称估计量具有无偏性，即无偏估计，否则称为有偏估计。 如 为无偏差估计 而 为有偏差估计 估计量的偏差(Bias of estimator) b()=E[]－θ 渐近无偏差 若当样本长度N((时，偏差b()(0。即 一个无偏的估计子一定是渐近无偏的，但渐近无偏的估计子不一定是无偏的。 为渐近无偏差估计 一致估计(consistent estimation) 若对所有的ε≥0，有 则是θ的一致估值。即参数θ的估计子以概率收敛于真实参数θ。 定理：若是基于N个观测采样θ的无偏估计量，若1、 2、 则是θ的一致估计。 估计子的有效性： 两个无偏估计子的比较： 两个无偏估计子的比较时，其中方差较小的更有效。一般直接比较方差有困难，间接的方法是与无偏估计的一个最小方差进行比较。 无偏最小方差（unbiased miminum variance） 若对所有的估计θ’ ,E[θ’]=θ,且对所有的估计θ’ 有：,则是θ的一个无偏最小方差估值。 2、无偏与渐近无偏估计子之间的比较 通常任何一个估计子若不是渐近无偏的，则它不一定不是一个“好的”估计子，考虑到偏差和方差，引入估计子的均方差。 。 根据均方误差的大小，对不同的估计子进行比较。显然，均方误差小的估计子优于大的估计子。 有效性只能比较两个估计子之间的优劣。 Cramer-Rao下限 如何评价一个估计子为其真实参数θ的最优估计，因此，需要使用一个怎样的标准的问题？ 设z1,z2,...,zN为随机变量z的独立同分布的N个观测样值，p(z|θ)为z的依赖参量θ分布密度函数，且 E[]=θ，则有Cramer-Rao下限 满足此式等号成立的估计称为最小方差无偏估计。 此式的证明请看张贤达现代信号处理。 §3－2、非随机参量的最大似然估计 (Maximum Likelihood Estimation--MLE) 最大似然估计的基本思想是：在对被估计的未知量(或参数)没有先验知识的情况下，利用已知的若干观测值估计该参数，这时被估计的参数假定是常数，但未知；而已知的观测数据则为随机变量。 设z1,z2,...,zN为随机变量z的独立同分布的N个观测样值，p(z|θ)为z的依赖参量θ分布密度函数， 参量θ为待估计的量。则似然函数为： 选取使似然函数L(θ)为最大的作为θ的估计量，称为θ的最大似然估计。说谓似然函数，就是包含未知真实参数θ信息的可能性函数；严格地说，与观测样本z1,z2,...,zN的任意函数相乘的结果都是一似然函数，这里将概率密度函数本身视为似然