第八章 经典估计理论1-1课件.ppt

第八章 经典估计理论; 前面几章主要讨论信号检测问题，即解决信号是否存在或者是几个信号中哪一个信号存在的问题。 在许多实际问题中，信号参量的测量是至关重要的。因为所要传递的信息是调制在信号的某些参量上，而要获得这些信息就必须测定信号的参量，如雷达的回波信号相对于发射信号的延时、频移等都是信号携带的参量，测量出这些参量我们就可以获得目标信息的距离、径向速度等信息。;估计理论的研究内容是如何从接收信号的观测值或观测波形出发，来估计信号的未知参量或波形。(随机变量或非随机变量) 在某些通信系统中，接收机中的解调过程就是一种信号参量的估计过程。如在脉冲振幅调制中，相继发送的高频脉冲的振幅包含着有用信息，对脉冲振幅的估计就是一个解调过程。由于接收信号混杂着噪声，使得估计参量的精确度受到一定影响。 估计理论的主要任务：精确地估计信号的各种参量(如振幅、频率、时延等)。;假定接收信号的一组观测值为 记为观测矢量 x 。它具有某种已知形式的统计分布，其中含有一定数目的未知参量 。现要基于观测矢量 x ，按照某种准则来对这些未知参量 进行估计。由于x 是随机矢量，作为 x 的函数，估计量 也是随机变量。 ;这里产生两个问题: 一是对应某一观测矢量x ，可以提出许多个x 的函数来作为估计量，那么，如何最佳地利用x 来构成估计量？随着“最佳”准则的不同，存在着各种不同的构成估计量的方法，如Bayes估计、最大后验估计、最大似然估计等等。 二是一旦选定了最佳准则构成估计量后，如何来描述和评定估计量本身的统计性质，即估计量的评价问题。 首先讨论各种最佳准则以及构成各种统计量的相应方法，即估计量的构成问题；然后讨论估计量的统计性质，即估计量的评价问题。 ;常用的代价函数有绝对误差，平方误差，阱型误差和相对误差平方四种形式。即： （1）绝对误差形式 这种代价函数的代价随误差的绝对值线性变化，如图8.1（a）。;（2）平方误差形式 这种代价函数强调大误差的影响，代价随误差增加而更快增大，且由于数学处理方便，因而应用最为广泛。如图8.1（b）。 ;（3）阱型误差形式 特点是信号误差超过某个门限值后才付出代价，小于门限值时可以不付出代价，且付出的代价与误差大小无关， 因此代价是均匀的 (又称均匀代价函数), 如图8.1（c）。;（4）相对误差的平方形式 这种代价函数的代价正比于相对误差的平方。如图8.1（d）。 ;8.2.2 Bayes估计准则 ;观测值（采样值）为 ，写成矢量 。观测矢量 和未知参数矢量 的联合概率密度函数可表示为 给定观测矢量 时， 的条件概率密度函数称为后验概率密度函数，记作 。;估计参量带来的总的平均代价就是条件代价对所有观测值X求平均的结果。即 ;所谓贝叶斯估计，就是选择估计矢量 ，使平均风险 达到最小。由于式(8.7)的内积分式及f(x) 均非负，所以使平均风险最小等价于使条件风险最小。即要求下式最小。;2种Bayes估计的特例 ;对 求一阶偏导并令其为零得;由于 得 (8.12) 由式(8.12)得出的Bayes估计量 称为最小均方误差估计量，其等效于求 的条件均值。 ;2．条件中位数估计 ;上式意味着 即估计量 是条件分布 的中位数或称后验中值，记为 ，故对于绝对误差代价函数，Bayes估计量就等于条件中位数。如果条件分布 是对称的，则 ，此时条件中位数估计与最小均方估计一致。 ;8.3 最大后验估计 ;在数学上，要求出最大后验估计量，就必须知道最大值 的位置。如果 具有连续的一阶导数，则获得最大值位置的必要但不充分条件是将 对 求导并令其为零，即最大后验估计量应满足方程 ： ; 为了把观测矢量和先验知识的作用分开，可以把 写成式(8.6)的形式，从而有 或;得到; 当 时，使 最小等效为选择使 达到最大，这就变为了最大后验估计。 ;8.4 最大似然估计 ;最大似然估计的数学表示式为 上式称为似然方程，由于对数 是 的单调递增函数， 和 在同一个 值上达到极大值，所以似然方程也可表示为 ;根据条件概率分布的乘法公式 由于 与 无关，故 ;若 的先验概率密度函数在很宽的范围内足够平坦，或者对 的先验知识一无所知，则可认为 在一定范围内是常数，即服从均匀分布。得 ;本节