贝叶斯统计和经典统计异同 (2).docVIP

1 贝叶斯统计与经典统计的异同 曹正 最近初步接触了在与经典统计的争论中逐渐发展起来的贝叶斯统计。贝叶斯派不同于频 率派的地方在于他们愿意作出不是基于数据的假定，也就是说他们的观点来自何处并没有严 格的限定。我觉得Bayes 统计的思想非常有意思，根据课堂上老师的指导，我清楚了Bayes 的基本观点：1.认为未知参数是一个随机变量，而非常量。2.在得到样本以前，用一个先验分 布来刻画关于未知参数的信息。3. Bayes 的方法是用数据，也就是样本，来调整先验分布，得 到一个后验分布。4.任何统计问题都应由后验分布出发。为了更好的理解两种统计思想，我查 阅了一些参考文献，整理出以下一些结论： 以往，经典统计方法占据着统计学的主导地位，但是，贝叶斯方法正在国外迅速发展并得 到日益广泛的应用，可以说“二十一世纪的统计学是贝叶斯的时代”。 假设检验问题是统计学的一类重要问题，以下我们从这个角度对两大学派的假设检验思想 进行一些比较，以揭示两种思想的区别与联系，并着重探讨贝叶斯方法的优势。 在经典统计中处理假设检验问题，用的是反证的思想进行推断，即：在认定一次实验中小 概率事件不会出现的前提下，若观察到的事件是0 H 为真时的小概率事件，则拒绝0 H 。具体的 步骤是：1.建立原假设0 1 H ???vs 备择假设 1 2 H ???；2.选择检验统计量T ??T(x)，使其在 原假设0 H 为真时概率分布是已知的，这在经典方法中是最困难的一步。3.对给定的显著水平??， 确定拒绝域，使犯第一类错误的概率不超过??。4.当样本观测值落入拒绝域 W 时，就拒绝原假 设0 H ，接受备择假设1 H ；否则就保留原假设。 2 而在Bayes 统计中，处理假设检验问题是直截了当的，依据后验概率的大小进行推断。在 获得后验分布??(??| x)后，即可计算两个假设 0 H 和1 H 的后验概率0 ??和1 ??，然后比较两者的 大小，当后验概率比（或称后验机会比） 0 ??/ 1 ????1时接受 0 H ；当0 ??/ 1 ????1时，接受 1 H ；当 0 ??/ 1 ????1时，不宜做判断，还需进一步抽样或者进一步搜集先验信息。很明显，它选择了后验 概率较大的假设。 由上叙述，我们可以看到两种思想的联系与分歧：在经典统计学中，参数被看作未知常数， 不存在0 H 和1 H 的概率，给出的是0 P(x | H 真)，其中x代表样本信息。在贝叶斯方法中，参 数被看成随机变量，在参数空间内直接讨论样本x 下0 H 和1 H 的后验概率，给出的是0 P(H 真 | x)和 0 P(H 不真| x)。 下面我们通过一个例子对两种假设检验思想进行一些比较。 例：以随机变量??代表某人群中个体的智商真值， i ??为第i 个个体的智商真值，随机变量 i X 代表第i 个个体的智商测验得分，若该人群的期望智商为??，则第i 个个体在一次智商测 验中的得分可以表示为： ij i ij i ij X ?????e ??????e ??e ，其中 i e 为第i 个个体的自然变异， ij e 为 第i 个个体第j 次测量的测量误差。根据以往积累的资料，已知在某年龄的儿童的智商真值 ??~ N(100,225)，个体智商测验得分 ~ ( ,100) * X N ??。现在一名该年龄的儿童智商测验得 分为115，问：(1)该儿童智商真值是否高于同龄儿童的平均水平?(2)若取* ??在(a,b)为正常， 问该儿童智商是否属于正常? Ⅰ. 用经典统计方法解答 对第一问，建立检验问题： 0 H ： 100 * ????vs 1 H ： 100 * ????，按照经典统计学方法， 若取????0.05，则拒绝域为 * 1 {x : x 100 u } {x : x 116.45} ??????????????。尚不能认为该儿童智商 高于平均水平。 对第二问，经典方法需要进行两次分别针对a、b 的单侧检验。过程与第一问相似，这里 不再叙述。 Ⅱ. 用贝叶斯方法解答 在贝叶斯学派中，当i ??未知时，将其看作随机变量，与??具有相同的分布，这是贝叶斯 学派与经典学派的一个重大区别。 3 根据贝叶斯理论，??的先验分布是N(100, 225)，测验结果 * X ~ N(??,100)，儿童智商 的后验分布为正态分布N(110.38,69.23)（具体计算过程请参见参考茆老师的《贝叶斯统计》 P14-15）。 对第一问，同样设0 H ： 100 * ????1 H ： 100 * ????，查正态分布表可以得到： ( : 100 | 115) * 0 P H ????x ??=0.106， ( : 100 | 115) * 1 P H ????x ??=0.894。 根据风险最小