估计理论-随机信号理.pptVIP

* * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * 例2、设有N次独立观测zi=vi ，i=1,2,….N，其中vi~N(0,?2)，求?2 的最大似然估计。 例3、高斯白噪声中的直流电平估计-未知参数与未知方差。设有N次独立观测zi=A+vi ，i=1,2,….N，其中v~N(0,?2)，?2、A均为未知参数，求A和?2的最大似然估计。 ?=[A ?2]T 1、贝叶斯估计 在已知代价函数及先验概率基础上，使估计付出的平均代价最小。 设观测值为z，待估参量为?。 估计误差： 设代价函数： 贝叶斯估计准则： 条件平均代价 统计平均代价： 等价于使下式最小： 2、典型代价函数及贝叶斯估计 平方代价： 绝对值代价： 均匀代价： ? 最小均方估计(Minimal Square) 对 求导数，并使其等于零： 得： 即 ，也称为条件均值估计。 平方代价： ?条件中位数估计(Median) 对 求导数，并使其等于零，得： 可见，估计为条件概率密度 的中位数。 绝对值代价： ?最大后验概率估计(maximal posterior probability) 应当选择 ，使它处在后验概率 的最大处。 最大后验概率方程： 或 均匀代价： 由关系式： 两边取对数并对?求导，得最大后验概率方程的另一形式： 例1设观测为 ，其中被估计量A在[-A0,A0]上均匀分布,测量噪声v~N(0, )，求A的最大后验概率估计和最小均方估计。 例2 高斯白噪声中的直流电平估计-高斯先验分布。设有N次独立观测zi=A+vi,i=1,2,….N，其中v~N(0, )，A~ ，求A的估计。 1、线性最小均方估计(linear minimum mean square error estimation) 前提：不知道 ，知道 的一、二阶矩特性 准则：使均方误差最小的线性估计 实现： 选择适当的系数ai及b，使估计均方误差最小。 正交条件 正交条件是信号最佳线性滤波和估计算法的基础，在随机信号处理中占有十分重要的地位。 性能分析： ?线性最小均方估计为无偏估计，即有： ?线性最小均方估计的均方误差等于误差与被估计量乘积的统计均值，即： 其中： 例1、设观测模型为zi=s+vi ，i=1,2,..，其中随机参量s以等概率取{-2,-1,0,1,2}诸值，噪声干扰vi以等概率取{-1,0,1}诸值，且E[svi]=0， ，试根据一次、二次、三次观测数据求参量s的线性最小均方估计。 1、最小二乘估计（Least square estimation） 前提：适用于线性观测模型； 不规定估计的概率或统计描述； 需要关于被估计量的观测信号模型 ; 准则：使观测与估计偏差的平方和最小。 假定观测模型为线性，即观测数据zk与参量?1， ?2，…， ? M之间服从： 其中hk1，hk2，…，hkM为已知常系数。 将观测方程用矢量及矩阵表示： 最小二乘估计是使观测与估计偏差的平方和最小，即： 最小二乘估计为： 加权最小二乘估计为： 性能分析： ?对于线性观测模型，最小二乘估计是线性估计，对测量噪声的统计特性无任何假设，应用十分广泛； ?若噪声均值为零，最小二乘估计为无偏估计，即有： 性能分析： ?最小二乘估计的均方误差为： ?对于加权最小二乘估计，如果有一些模型的知识，如E(v)=0， ，当 时，估计误差的方差阵达到最小，这个最小的方差阵为： 例1、观测数据为： 其中a为待估参量，nk为观测噪声，求a的最小二乘估计。 例2、根据以下对二维矢量 的两次观测， 求 的线性最小二乘估计。 最小二乘估计在目标跟踪中的应用 匀速直线运动的观测模型： 习题：7.26,7.31 * 前面几章我们学习了随机过程的基本概念、基本分析方法，以及随机过程通过系统的分析，这些基本方法是统计信号处理的理论基础，统计信号处理的根本任务是要提取有用的信息，有用信息是通过检测、估计、滤波的方法对信号进行处理后提取出来的，所以, 检测、估计、滤波的统计信号处理方法是信号处理技