P_第2章-估计理论基础分析报告.pdfVIP

第2 章 估计理论基础 统计学是现代信号处理的核心基础之一，统计学研究的一个主要问题是通过观测样本推 断总体。统计推断的核心内容是估计和假设检验，其对应了信号处理中的参数估计、波形估 计和信号检测问题，这是信号的统计处理的基础。根据本书的需要，对统计推断中的估计理 论基础给出一个概要和紧凑的介绍，本章不讨论假设检验问题。 估计理论 （本章仅讨论点估计）研究的是：在获得一组观测数据的条件下，定义一个观 测数据的函数（称为点估计器），用于估计一个或几个与观测数据有关的确定性的或随机性 的参数或波形。本章介绍估计理论中的几个最基本的概念和方法，重点放在参数估计上，波 形估计的问题在第3 章和第4 章集中讨论。估计理论中习惯地划分成经典估计方法和现代估 计方法（贝叶斯估计），经典估计中假设待估计的参数是确定性的未知量，而贝叶斯估计假 设待估计参数是随机变量，服从先验分布。本章按照先经典估计后贝叶斯估计的顺序讨论。 为了叙述简单，本章一般仅讨论实数据情况，对复数据情况会特别说明。 2.1 基本经典估计问题 首先讨论最基本的问题，通过观测数据 , 估计一个未知的确定 x(0), x(1), x(N 1) 性参数 , 一个点估计器记为  ˆ   （2.1.1 ）  g x(0), x(1), x(N 1) 本书仅讨论点估计，不涉及区间估计问题，今后将点估计器简称为估计器 （Estimator ）。注 意到，当式（2.1.1 ）表示的是观测数据与估计参数之间的一般表达式时，称其为一个估计器， 当把一组已测量得到的测量样本代入式（2.1.1 ）计算得到参数的值时，表示得到的一次估计 值 （Estimate ）。也就是说，我们不从表达形式上区分式（2.1.1 ）的这两重含义。显然，由于 ˆ 测量数据是随机过程，尽管假设 是一个确定性参数，但是它的估计器 是一个随机变量，   但当将获得的一组测量样本看作是随机过程的一次实现代入式（2.1.1 ）计算时，得到的一个 估计值可看成是这个随机变量的一次实现。 2.1.1 经典估计基本概念和性能参数 估计器的设计有多种方法，有时根据对问题的物理意义的直观理解可以设计出实用的估 计器，但大多数情况下，一个好的估计器的设计，紧密依赖于对观测数据的概率密度函数 (PDF) 的假设。首先看一个直观的例子。 例 2.1.1 假设估计一个直流电压，测量仪器记录的是带有噪声的信号，设观测数据为 x(n) A w(n) n 0,1,2, , N 1, 其中w(n) 是测量噪声，是零均值白高斯噪声 (WGN) ， 是直流电压值，由记录数据估计 的值。 A A 解：为了估计确定参数A ，一个直观的估计器定义为: ˆ 1 N 1 A x (n) （2.1.2） N n 0 对于例2.1.1 给出的估计器，产生两个基本的问题：（1）这个估计器的性能如何？即它 怎样接近于真实值A ？ （2 ）有没有更好的估计器，怎样设计好的估计器？在回答这些问题 之前，首先介绍几个关于估计器性能及其评估的基本概念。 ˆ 定义2.1.1 无偏估计， 若估计器满足 E ()  则称为无偏估计。 56 对例2.1