第二章经典估计理论(MVU和BLUE).pptVIP

经典估计理论——小结 主要估计方法 LSE：不需要统计信息 MLE：需要先验概率密度函数 矩估计：相应的矩信息 MVUE和BLUE：一阶、二阶矩信息（均值、方差） 作业：P53 习题3.3；p121 习题6.4 高斯白噪声中信号的CRLB 则 信号对参数变化越敏感，CRLB越小，越可能获得更准确的估计 参数的变换 若希望估计 则 越大，则 → θ的小误差将会造成α的更大误差 → 从而增大CRLB，恶化估计的准确度 即 经典估计理论——内容安排 主要内容 引言 最小方差无偏估计（MVU） Cramer-Rao下限 线性模型 最佳线性无偏估计（BLUE） 一般线性模型 白高斯噪声中的信号 N×1 已知观测矩阵（N×P） P×1 已知偏移（N×1） 数据矢量 已知且满秩 待估参数 已知 矢量形式为 考虑特例：线性观测 一般线性模型： 观测矩阵需要满秩 必须假定H为满秩矩阵 否则，估计问题成为病态问题 对于给定矢量S，将会有多个不同的θ矢量可以获得 即 对于任意 ， 使得 因此，无法根据观测量对参数θ进行估计 线性模型的重要性 以下几个原因： 某些应用确定为该模型 非线性模型有时候可以线性化 寻找最佳估计相对简单 一般线性模型的MVUE 若 则 证明：首先假定b=0，这很容易推广到一般情况 由CRLB定理，得出MVU估计， 并达到CRLB下限 线性模型的MVUE 定理4.1 若观测数据可表示为 则MVU估计量 协方差矩阵 MVU估计量达到了CRLB 线性模型的例子 例4.1 曲线拟合 注意： “线性”的含义 模型对于横坐标n为二次函数 而对于参数θ则是线性的 观测数据 则MVU估计 傅里叶分析 例4.2 数据模型： 待估参数 待估参数： （傅里叶系数） 观测矩阵： MVU估计量为 利用三角函数的正交特性 可见，白高斯噪声中信号的傅里叶系数，是无噪声信号傅里叶系数的MVU估计！！ 系统辨识 一些应用领域： 无线通信（识别和均衡多径） 地球物理探测（石油勘探） 喇叭扩音器（回波抵消） 在很多应用中，假定系统为FIR滤波器（长度为p） 目标：确定系统模型 则 经典估计理论——内容安排 主要内容 引言 最小方差无偏估计（MVU） Cramer-Rao下限 线性模型 最佳线性无偏估计（BLUE） BLUE的目的 除线性模型外，最佳MVU估计也许 并不存在 或很难找到 因此，往往要求助于次优估计量 BLUE的思路： 估计量是线性的，相对于数据X 估计量无偏 寻求最优估计（即最小方差） BLUE的优点：只需pdf的均值和方差 缺点：通常是次优的；有时是不合适的 BLUE的定义（标量） 观测数据： PDF： 与未知参数θ有关 BLUE限定估计量与数据呈线性的，即 选择a，所得无偏且方差最小的估计量即为BLUE。 求BLUE 估计量线性： 估计量无偏： 考虑标量参数的线性观测： 由无偏可得 BLUE要在上述给定约束条件下，使得方差最小 令C为X的协方差矩阵，则 目标：使 最小； 约束条件： 带约束条件的求最佳问题 （附录6A）：利用拉格朗日乘子 BLUE的应用 推导BLUE只需满足： 观测量线性； 不知道噪声的pdf，但知道其均值和方差。 这意味着： BLUE可用于线性观测 噪声不必为高斯分布 只需知道pdf的前二阶矩 1 扩展到矢量参数 定理6.1（高斯-马尔可夫定理） 若数据具有线性模型形式 已知矩阵 已知均值和方差 则BLUE是 协方差矩阵为 注：若噪声为高斯分布，则BLUE为MVUE 信号处理的例子 例6.3 源定位 假定第i个天线可测量到达时间(TOA)： 从而得到相应的到达时间差TDOA 根据TDOA估计坐标位置 假定N个天线测量的TOA为 含测量误差 TOA测量模型： 信号发射时刻 到天线的距离 测量误差：0均值，方差为 而距离： 可得 将模型线性化以便应用BLUE 假定初步估计为 采用一阶泰勒级数展开 代入得 变换为TDOA模型 需估计的三个未知参数为： 代入可得 应用BLUE到TDOA线性模型 接下来，我们探讨： 1. 不同 的估计误差协方差矩阵 2. 简化几何模型以寻找变化趋势 可见 对于固定距离R：加大天线间隔d可提改善估计精度 对于固定基线长度d：减小距离d可改