信号检测统计估计理论.ppt

估计理论与信号检测;内容提要;5.1 引言;5.1 引言;5.1 引言;5.1 引言-信号处理中的估计;5.1 引言-估计的数学问题;;5.1.3 估计量性能的评估;5.1.3 估计量性能的评估;5.1.3 估计量性能的评估;经典估计与贝叶斯估计;经典估计与贝叶斯估计;经典估计与贝叶斯估计;经典估计与贝叶斯估计;经典估计与贝叶斯估计;;5.2 随机参量的贝叶斯估计;5.2.1 常用代价函数和贝叶斯估计概念;;5.2.2 贝叶斯估计量的构造;;5.2.2 贝叶斯估计量的构造;;;5.2.3 最佳估计的不变性;5.2.3 最佳估计的不变性;5.2.3 最佳估计的不变性;;;;;最大似然估计的不变性： 1、如果参量 的最大似然估计量为 ，那么函数 的最大似然估计量 ，在 是 的一对一变换时有 2、如果 不是 的一对一变换，而是一对多变换，则首先应找出在 取值范围内所有变化参量的似然函数 中具有最大值的一个，记为 ，即 然后，通过 求出 的最大似然估计量 ，就是函数 的最大似然估计量。;估计量是随机变量 主要性质 无偏性 有效性 一致性 充分性 克拉美-罗不等式(Cramer-Rao) 克拉美-罗界（均方误差下界）;;5.4.1 估计量的主要性质;均方误差准则（MSE）：;Cramer-Rao下限;引入：依赖于未知参数的PDF;;;1、非随机参量情况;;1、非随机参量情况（续，另一种形式）;2、随机参量情况（第一种形式）;2、随机参量情况（续，第二种形式）;5.4.2 克拉美-罗不等式与克拉美-罗界;5.4.2 克拉美-罗不等式与克拉美-罗界;5.4.2 克拉美-罗不等式与克拉美-罗界;例5.4.1 非随机参量的最大似然估计量的性质;;例5.4.2 随机参量的贝叶斯估计量的性质;例5.4.2 随机参量的贝叶斯估计量的性质（续）;5.4.3 有效估计量均方误差与 的关系;5.4.4 非随机参量函数估计的克拉美-罗界;;5.4.4 非随机参量函数估计的克拉美-罗界;5.4.4 非随机参量函数估计的克拉美-罗界;5.4.2 克拉美-罗不等式与克拉美-罗界;5.4.5 估计量性质的总结;5.5 矢量估计;5.5 矢量估计;5.5 矢量估计;5.5 矢量估计;5.5.1 随机矢量的贝叶斯估计;5.5.1 随机矢量的贝叶斯估计;5.5.2 非随机矢量的最大似然估计;是 阶矩阵 的第 i 行第 j 列元素。;5.5.3 矢量估计量的性质;5.5.3 矢量估计量的性质;;5.5.3 矢量估计量的性质;设有M维非随机矢量 ，现在需要估计M维矢量 的L维函数 。设L维估计矢量 是L维矢量函数 的任意无偏估计矢量。则估计矢量 的均方误差阵 满足不等式 式(5.5.23)是矢量函数估计的克拉美-罗不等式， 不等式的右边就是克拉美-罗界； 式(5.5.24)是克拉美-罗不等式取等号的条件。 其中，J是费希尔信息矩阵。;5.5.4 非随机矢量函数估计的克拉美-罗界;线性函数估计性质的不变性：如果M维非随机矢量 的任意无偏估计 是有效的；那么，其L维线性矢量函数 的估计矢量 是无偏有效的。证明如下 如果 是非线性函数，则对于有限的观测次数N，不再保持这种不变性。;;;;;;;;线性模型举例;5.7 线性最小均方误差估计;5.7.1 线性最小均方误差估计准则;5.7.2 线性最小均方误差估计矢量的构造;5.7.2 线性最小均方误差估计矢量的构造;5.7.2 线性最小均方误差估计矢量的构造;1、估计矢量是观测矢量的线性函数 2、估计矢量的无偏性 3、估计矢量均方误差阵的最小性;5.7.3 线性最小均方误差估计矢量的性质;;5.7.3 线性最小均方误差估计矢量的性质;5.7.4 线性最小均方误差递推估计;5.7.4 线性最小均方误差递推估计;5.7.4 线性最小均方误差递推估计;5.7.4 线性最小均方误差递推估计;5.7.4 线性最小均方误差递推估计;线性最小均方误差