参数估计理论与应用(第三章)精讲.pptVIP

第三章 参数估计理论与应用 第三章 参数估计理论与应用 3.1 参数估计的评价准则 3.2 基于统计分布的参数估计方法 3.3 基于模型的参数最小二乘估计 本章小结 在许多情况下，观测数据所服从的概率模型已知的，而 模型的未知部分是以未知参数形式出现的。 参数估计的基础是优化理论，即被估计的参数应该在某 种准则下是最优的，以及任何获得最优的估计。 非参数估计方法不假定观测数据服从某种特定的概率模 型。例如，频域上的谱估计与谱线拟合就是典型的非参数估 计方法。 3.1 参数估计的评价准则 参数估计是通过样本去估计总体的某些数字特征或统计量。任何一 个统计量都可作为参数的估计量，但其效果的优劣有所差别。 3.1.1 无偏性、有效性与相容性 （1）无偏性 设样本的总体分布密度函数为 p(x;θ), θ 是未知参数。从总体中抽取容量为 N 的样本 x={x1, …, xN }, 用样本的估计量 来估计θ，如果希望多次估计中，平均 的估计值没有偏差，即 则称 是θ的无偏估计量。 例3-1 样本均值是总体数学期望的无偏估计。 设x1, …, xN 是随机过程 {xk} 的N个独立观测样本，如果 参数θ是总体的数学期望E[x]，即用样本的均值 作为θ的估计量，对该估计量取期望值，有 一个无偏估计量在多次估计