第六章 贝叶斯统计初步.pptVIP

第六章 贝叶斯统计初步 第一节 先验分布与后验分布 （1）总体信息，即总体分布或总体所属分布族给我 们的信息。 （2） 样本信息，即样本给我们的信息。 （3）先验信息，即在抽样之前有关统计问题的一些信息。一般来说，先验信息来源于经验和历史资料。 基于上述三种信息进行统计推断的统计学称为贝叶斯统计学。它与经典统计学的差别在于是否利用先验信息。 例1 “免检产品”是怎样决定的？某工厂的产品每天都抽检几件，获得不合格品率 的估计。经过一段时间后，就可以根据历史资料（先验信息的一种）对过去产品的不合格品率 构造一个分布 这种对先验信息进行加工获得的分布今后称为先验分布。有了这种先验分布就可得到该厂产品的不合格率 的一个全面看法。如果这个分布的概率绝大部分集中在 附近，那该产品可以认为是“信得过产品”。假如以后的历次抽 检结果与历史资料提供的先验分布是一致的，那就可以对它作出“免检产品”的决定，或每月抽检一次就足够了，这就省去了大量的人力与物力。可见历史资料在统计推断中应该加以应用。 贝叶斯统计起源于英国学者贝叶斯（Bayes T.R.1702（？）～1761）死后发表的一篇论文“论有关机遇问题的求解”在此文中提出著名的贝叶斯公式和一种归纳推理的方法。之后被一些统计学家发展成一种系统的统计推断方法。到本世纪30年代已形成贝叶斯学派，到50～60年代已发展成一个有影响的统计学派，其影响还在日益扩大。 贝叶斯学派的第一个基本假定：样本分布中的参数不是常数，而是随机变量。 贝叶斯学派的第二个基本假定： 的分布（称为先验分布（prior distribution)已知。 贝叶斯学派的第三个基本假定：样本分布 是样本在给定 时的条件分布。 后验分布：给定样本时的条件分布称为参数 的后验分布。 贝叶斯学派的基本观点：后验分布中集中了先验分布和样本两部分信息，因此所有关于参数 的推断（估计）都应该从后验分布出发。 贝叶斯学派与经典学派的区别： （1）贝叶斯学派的出发点与经典学派不同，后 者的出发点是样本分布的频率函数 。 （2）在给定样本等于x时，对 或 的含义的解释上也不同，前者在贝叶斯学派眼中是关于 的（条件）频率函数；而后者在经典学派眼中（作为 的函数）并没有概率的含义在里面，因而称为似然函数。 二、后验分布的构造 （1）依赖于参数 的概率密度函数经典统计中记为 ，它表示在参数空间 中不同的 对于不同的分布。而在贝叶斯统计中应为 ，它表示在随机变量 给定某个值时，X的条件密度函数。 （2）根据参数 的先验信息确定先验分布 。 （3）从贝叶斯观点看，样本 的产生要分二步进行。首先设想从先验分布 产生一个样本 ；第二步从 中产生一个样本 。这时样本 的联合条件概率密度函数为 这个联合分布这综合了总体信息和样本信息，又称为似然函数。 （4）样本 和参数 的联合分布为 这个联合分布把三种可用信息都综合进去了。 （5）将 进行如下分解 其中 是 的边缘密度函数，公式为 它与 无关，或者说 中不含 任何信息。因此能用来对作出推断的仅是条件分布，它的计算公式为 此公式称为 的后验分布。 例2 设事件A的概率为 ，即 。为了估计 而做了n次独立观察，其中事件A出现次数为X，求 的后验分布。 解：显然X服从二项分布 ，即 贝叶斯建议用均匀分布U(0,1)作为 的先验分布。 这时 的先验分布为 计算样本X和参数 的联合概率分布 计算样本X的边缘分布 因此可得 的后验分布 这就是参数为x+1和n-x+1的 分布B(x+1,n-x+1)。 第二节 贝叶斯估计 常用损失函数 1、平方损失函数：一般来说， 愈接近 ，损失愈小，在很多情况下损失L应是