第五章-离散随机信号特征估计.pptVIP

* 样本间统计独立 讨论 当 在尖峰处可以近似为常数时，进一步退化为最大似然估计。 ，贝叶斯推理退化为最大后验概率估计。 形成尖锐的凸峰时，我们就称之为增量函数，这时有 在某一点 理论上，当 时，三种方法估计结果相同。 * 最大熵估计 混合模型 EM(期望值最大)算法 对于概率密度函数 ，熵定义为 未知 但已知相关约束（均值、方差等）的情况下，最大熵估计就是针对给定约束条件使熵最大。 * 的最大似然估计为 由于y未知，所以要寻找使对数似然函数对y期望的最大值。 具体算法： 初始化： E阶段 M阶段 do t=t+1 until * 概率密度函数的非参数估计 一维概率密度函数的非参数估计 基本思想 将x轴划分为长度为h的区间，样本x落在某个区间的概率就是这个区间的估计值。 如果样本总数为N，落到某一区间的点数为kN，则相应的概率为 N越大,h越小估计值越接近真实值 直方图法估计概率密度函数 当 时，近似值收敛于真实值P。相应的概率密度函数在整个区间内认为是常量，近似等于 * Parzen窗法 与一维类似，将l维空间划分为超立方体，边长为h，体积为hl。定义窗函数： 则 表示落在边长为h，中心为x的超立方体内的点数 当窗函数满足 时，称为Parzen窗。 无偏估计 k近似密度估计 Parzen估计：认为点x周围的体积固定，通过统计落在以x为中心的超立方体内的点数实现估计。 k近似估计：假设点数固定，调整包含k个点的x周围的体积V(x)来实现。 渐进无偏，一致估计 * 朴素贝叶斯分类器 问题： 为了保证估计的准确性，样本数量N一定要足够大。 对于多维情况，样本数量会随着维数的增加而指数增长。 若1维空间中，需要N个样本，粗略地，l维空间要实现准确估计需要Nl个样本。 实现准确估计困难 解决办法：假设样本之间统计独立，则 所谓朴素贝叶斯分类器，即将未知样本 分类到 军用PKI体系结构及其关键技术 * 西安电子科技大学通信工程学院 * 《随机信号分析》教学组 * 第五章 离散随机信号特征的估计 * 第五章基本要求 熟练掌握随机信号数字特征的估计方法 掌握自相关函数的非参数估计法 掌握功率谱密度函数的经典估计算法及改进算法 掌握常用的几种概率密度函数估计方法 * 通信过程中，接收信号受到随机噪声的污染，因此是一个随机信号。在这种情况下无法精确的测定信号的参量，只能对其作出尽可能精确地估计。显然，信号参量的估计要用统计方法，即统计估计理论。 按照某种估计准则获得所需估计量后，通常要对估计量的质量进行评价，这就需要弄清楚估计量的主要性质。我们知道，估计量是观测量的函数，而观测量是随机变量，所以估计量也是随机变量。 回顾评价各种估计量性质的统计方法(设待估计参数a为未知确定性量) 为什么要进行特征估计？ * * * 讨论： 5.1 随机信号数字特征的估计 均值的估计 估计质量 (考虑无偏性和一致性) * 无偏估计 方差的估计 * 一致估计 可以证明是无偏一致估计 而 * 有偏,但渐进无偏估计 * 是否存在无偏估计? 令 则 无偏估计 注:方差估计的一致性证明从略 * 直接估计法 * 5.2 自相关函数的非参数估计 非参数估计: 不同时间间隔对应自相关函数的值都要进行估计 参数估计: 假设自相关函数有解析式,然后估计解析式的参数 对于样本序列 ，其自相关函数 因此当数据总长度为N时， 自相关函数的估计为 * 注：关于估计的方差涉及到随机变量的四阶矩，比较困难。以高斯型随机过程为例进行分析。 估计质量 有偏,但渐进无偏估计 若要满足无偏，可令 可以证明当 时，估计的方差趋于零 估计的渐进无偏性 一致估计 * 所以，当时 ，上式方差是趋于零的。 因此 * 有偏,但渐进无偏估计 无偏估计 存在问题：估计的计算工作量太大 * 通过引入快速傅里叶变换减少计算量 改进方法： 其他相关函数的估计 自协方差函数估计 互相关函数估计 互协方差函数估计 相关技术的应用 a. 从噪声中检测信号 * 判断