Bayesian+Model+Averaging方法及其应用.pdfVIP

Model BayesianAveraging方法及其应用 潘海涛 (西安：西安财经学院统计学院，710061) 摘要 一般的回归分析建模因为未考虑模型自身的不确定性而使得分析的结果存在不精确和有 争议的问题，贝叶斯模型平均法(BayesianMovingAveraging)由于运用Bayes统计分析的 思想并考虑到模型自身的不确定性，从而提高了模型估计的精度。本文通过介绍BMA方法 的思想并借助两个回归分析的例子，展示了BMA方法的优势，以期到达使国内同行了解此 方法之目的。 关键词：BayesianMovingAveraging，线性回归，Logistic回归 Abstract model a of accountof aboutmodelform Bayesianaveraging(BMA)iswaytaking uncertainty or and it toinferencesaboutanunknown ofimemst assumptionspropagatingthrough quantity suchasa future thefuture orcostofacourseof populationparameter,aobservation，orpayoff action．Inthis firstreviewthe of twoconcrete to BMA，then paper,we principles give examples exhibitthismethodand tointroducethismethodtostatisticiansand msearchers． expect applied KeyWords：BayesianMovingAveraging,linearregression，logisticregression 在进行回归分析时，我们一般的做法如下：首先根据专业知识选择影响响应变量 (response 逐步回归法，AIC，BIC，Mallow的Cp准则等)来选择统计上显著的协变量，从而建立相 应的模型，这些方法的共同点是最终仅确定一个模型，比如M’，最后，数据分析者应用 模型M’来进行相应的统计推断分析(如估计标准误、进行预测)和进行一些感兴趣的工 作。现在考虑这样一种情形，比如还有一个模型M”，也对原始数据拟合很好，但是用此 模型所进行的统计推断的结果与模型M’有较大的差异。在出现这种情形时，数据分析者 该如何对模型进行选择呢?这种情形的出现是普遍的，具体可参考RegalHook(1991)， 回归模型或广义线性模型对所搜集的数据建立模型时，未考虑模型本身的不确定性(model uncertainty)，所以我们仅仅基于模型M’来进行相应的统计推断是不可靠的。贝叶斯模型 平均法(BMA)提供了解决这类问题的完整流程。本文以一般线性回归和Logistic回归为 例对实际资料进行分析，展示了考虑到模型本身不确定性可以提高回归系数估计精度能力 等的优越性。 一、BMA模型的基本思想和方法 假设数据资料为D，现想对感兴趣的未知量△进行统计推断。我们现有如下K个可能的 模型：M，鸠，…，M，，这里K的数量可能很大。比如，在进行回归建模时，不能确定P 个协变量中的那些应该包括在最终模型中，这时可能考虑的模型个数为2尸。BMA方法是贝 叶斯统计方法在模型不确定情形时的应用，应用全概率公式，未知量△的BMA后验分布为 F p(A D) (1) D，Mk