西安工业信号检测与估计sde_14 ch10 贝叶斯原理.ppt

* * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * SDE_09 MLE * 10.6 贝叶斯线性模型 利用Woodbury恒等式有 所以 * SDE_09 MLE * 10.6 贝叶斯线性模型 为了求后验方差我们利用 最后得到 这样 * SDE_09 MLE * 10.7 多余参数 除了我们感兴趣的参数子集外，剩余的参数只会使问题变得复杂，我们称为多余参数。 在贝叶斯方法中，我们可以通过对多余参数积分来消除它们。 如果 代表后验PDF，我们可以确定 的后验PDF 也可以表示为 * SDE_09 MLE * 10.7 多余参数 如果进一步假设多余参数和希望的参数是独立的，可简化为 例10.3 比例协方差矩阵 假设我们观察到 的数据矢量x，它的条件PDF 是 。参数 是要估计的， 则被看成是一个多余参数。协方差矩阵以某种未指明的方式依赖于 。 * SDE_09 MLE * 10.7 多余参数 我们指定 的先验PDF 我们有 * SDE_09 MLE * 10.7 多余参数 令 。有 但是，对于a0和没0，根据伽马积分得 * SDE_09 MLE * 10.7 多余参数 计算这个积分值可得 * SDE_09 MLE * 10.8 确定性参数的贝叶斯估计 考虑例10.1 且0 1.如果A是一个确定性参数，可利用 * SDE_09 MLE * 10.8 确定性参数的贝叶斯估计 来计算MSE 其中 是偏差，那么 可以看出，因为 0 1 ,利用贝叶斯估计量减少了方差，但增加了MSE得偏差分量。 * SDE_09 MLE * 10.8 确定性参数的贝叶斯估计 只有一个随机变量时， 才可以看作为在A已知的条件下的MSE，于是有 * SDE_09 MLE * 10.8 确定性参数的贝叶斯估计 实际上，为了减少整个MSE，贝叶斯MMSE估计量为了方差牺牲了偏差。 在下图中，当A不接近 时，在MSE较大时对 的选择是没有意义的，因为这种情况出现的不频繁。 uA A WGN中MVU和贝叶斯估计量的均方误差 * SDE_09 MLE * 西安工业信号检测与估计SDE_14 ch10 贝叶斯原理教材 谢谢 * * * * * * * * * * * * * * * * * 先验概率是指根据以往经验和分析得到的概率,如全概率公式,它往往作为由因求果问题中的因出现. 后验概率是指在得到结果的信息后重新修正的概率,如贝叶斯公式中的,是执果寻因问题中的因.先验概率与后验概率有不可分割的联系,后验概率的计算要以先验概率为基础. * * * SDE_09 MLE * 10.3 先验知识和估计 因此 如果我们有 * SDE_09 MLE * 10.3 先验知识和估计 后验PDF为 * SDE_09 MLE * 10.3 先验知识和估计 但是 所以，我们有 归一化因子 * SDE_09 MLE * 10.3 先验知识和估计 因子C是跟据 积分等于1的要求来确定的，于是， MMSE估计量的均值 * SDE_09 MLE * 10.3 先验知识和估计 当N增加时，得到后验PDF变得更加集中在 周围（因为 降低）因而变的更接近高斯分布。 －A0 A0 (a)短数据记录 －A0 A0 (b)大数据记录 * SDE_09 MLE * 10.3 先验知识和估计 总结 参数估计的贝叶斯方法假设要估计的参数是随机变量θ 的一个实现。这样，对它指定一个先验PDF 。在观测到数据后，后验PDF 概括了对这个参数的了解情况。对θ 的所有现实和x，使平均MSE最小的估计量定义为最佳估计量，即所谓的贝叶斯MSE。 先验PDF的选择是很关键的。错误的选择将导致差的估计。 * SDE_09 MLE * 对于运动方向的判断 对于升温/降温的判断 对于可能位置的判断 * SDE_09 MLE * 10.4选择先验PDF Choosing a Prior PDF Choice is crucial关键: 1.Must be able to justify it physically与物理特性一致 2.Any