生物医学信号处理4 教程文件.pptVIP

第五章 信号的参数估计;§5－1、概述;数学描述：;一、非线性估计——已知待估参数的先验概率p(a)和条件先验概率p(x|a)，依据某些最优判据，通过非线性数理统计算法估计参数； 随机参量－其特性用概率密度来表征－贝叶斯估计 非随机参量－仅为一般的未知量－最大似然估计; 非线性估计方法经典，计算复杂，估计质量较好，但是要求先验概率知识。 二、线性估计——在估计参数a为观察值x的线性函数，基于最小均方误差准则进行估计。 前提条件：估计 必须是观察值x的线性函数。 线性估计方法计算简便，只要求一、二阶统计知识，故先验知识要求低，估计质量较差，近年来发展较快。;一致估计——根据以上分析，将估计偏差和方差结合起来的综合量表示估计质量的好坏，即估计值的均方误差。 如果随着样本数目的增加，估计的均方误差趋于0，即要求当N→+∞时，偏差和方差都趋于0，则称此估计为一致估计。 有效估计——由某一种估计方法得出的估计值的方差小于其它任何估计方法得出的方差，则称该估计为有效估计。如果该估计同时又是无偏的，则为均方误差最小的估计。;§5－2、非线性估计;(c)均匀代价函数 ;贝叶斯判据：平均代价最小，即 E(c)=min。 由于c是 的函数，而 又是观察值x的函数，所以c就是x和s的联合函数，所以有：;情况(a)平方误差情况下，风险函数最小的估计量称为最小均方估计(minimum mean square estimation) 其风险函数为： 由于 ;由于;情况(b)绝对值误差情况下，风险函数为：;情况(c)均匀估计代价函数;最后，将三种情况估计式中后验概率密度函数借助于贝叶斯公式用先验概率代替得到：;(Maximum Likelihood Estimation--MLE);多次观察;;如果要估ABS、 MAP、MS，还需 要已知p(s)。; 实 例;将与s有关的部分并在一起，同时由于含s的二次方，而对s配平方得到：;例2、 s为离散的二值函数，取±s0二值之一，且概率相等，用公式表示为 噪声为高斯型噪声N 。 现取M次采样，各样本中噪声独立且概率密度函数为： 求; : 位于似然函数峰值处，M次观察独立同分布，故： 上式取对数求导并令导数为0得：;化简后为 取对数化简，即：;;例3、 发放率估计。 由序列的发放间隔τ估计脉冲发放率。假设发放率和脉冲间隔均服从指数分布分别为 和 测得间隔τ= τ1，估计发放率，;发放率估计为：;估计量的性质;如果满足条件 存在且绝对可积， 则Cramer-Rao不等式等效于;※ 结论：总之，式（1）满足则Cramer-Rao不等式取等号，即有效估计存在，那么估计值就是极大似然估计，此估计值可通过解极大似然方程求得： 否则，如果式（1）不成立，就不存在有效估计，那么无从评价估计值的估计质量。;例4、 估计性质分析。取M次独立观察，对非随机未知量s=A进行估计，已知 各ni为正态分布N(0, )。求极大似然估计 ，并分析估计是否为有效估计，估计方差有多大？;所以，为无偏估计。;§5－3、线性估计; 引 例;上式分别对a、b求导并令导数等于0，得：;线性均方估计;;;x的自相关矩阵;;※ 采用均方判据，导出线性方程组，求解简便。算法所需先验知识为：观察x的自相关函数、信号与观察值之间互相关函数； ※ 估计误差e和所有观察值xi正交，这是LMS估计的重要特性； ※ LMS的最小均方误差为： 正交条件下，估计的均方误差是估计误差和信号乘积的均值。;;例5、 LMS估计。取M次独立观察，xj=s+nj, j=1~N。 噪声为白色，即E(ninj)= ，E(nj)=0，s为信号， E(s)=0,E(s2)= 信号和噪声相互独立，则 按照线性估计算法 进行LMS估计。 也就是求各系数hj和估计值 。;代入;解得：;观察值：xj=s+nj, j=1,2,……;系数b1的确定：令 ，E(s)=0，则;① 推导ak+1和bk+1之间的关系。;② 推导;;由于：;将(1)和(2)代入(3)得到：;递归线性最小均方估计算法流程;★ 递归过程的收敛性。;§5－4、最小二乘估计;最小二乘法的估计准则就是选s的估计值 ，使得各次测量的误差平方和最小，即：;以上结论可推广到待估计量s为多维矢量的情况。;令