基于后验贝耶斯拟似然线性模型变量选择-概率论与数理统计专业论文.docxVIP

摘 摘 要 在构造一般的回归模型过程中，包括线形模型，广义线形模型和非线性回归模型，在最 初的阶段需要大量的预测数据来减少可能的偏差．为了提高可预测性和减少估计和预测 的方差，我们通常可以删除一些不显著的变量，来获得一个最优的变量子集。对于这个 问题的一些选择准则，如： AIc，cp，BIc，RIc等，都是基于选择最大后验模型的一种 特殊的贝耶斯方法．但是这些存在的变量选择的判别准则是依赖于似然函数的，如果数 据的分布是未知的，这些准则就是无效的了．在这篇文章中，我们提出了一种新的变量 选择方法一后验贝耶斯拟似然．这个方法不需要关于数据分布的任何假设，并且，这个 方法可以同时进行变量选择和参数估计。特别的，对于线形回归模型，通过后验密度的 变量选择与通过判别残差平方和后者回归平方和是等效的． 关键词： 变量选择，贝耶斯拟似然，后验拟分布函数，后验拟得分函数，贝耶斯后验拟 似然 AbstractI矗the Abstract I矗the produce of constructing general regression model8 induding 1inear gener以ized lincar and nonline缸regression，a l盯ge number predictor8 usually introduced at the iⅡitial stage of modelling to Teducc possible modelling biases．In order to enhancc the predictability and reduce variance8 of estimation and pre出ction，however，one usually delete some i11signi丘cant variables and attempt to obt出n aⅡoptim“subset of variables．For this problem selection criteria sucll AIC，Cp，BIC and RIC haⅣe矗xed dimensionality pen缸ties．Such criteria shawn to respond to sele“ion of ma面m眦posterior models under implicit hyperparameter choices for particular Bayes formulation．But the existing penalized IikeIihood approach to variable lection depends the Hkelihood function and then is unavajlable if the distrmution of data is unknown．In thjs p叩er we suggest Qua8i Posterior Ba辨sian nkelihood to select variable8． These appr。aches do not require any assumptiDn djstribution of data rather亡haIl the王r丑rst moment or矗rst two moments．These methods sclectⅧriables and estimate parameters siⅢulta- neously Thc pr。posed estiⅢators perform weU the orack procedu工e and asymptotically e伍cient．P壮ticular埽for linear re擎es8ion model8，the v盯iabk selection via posterior density is equivalent to the variable selection Vi8 penalized residu“sum of squares re盯ession sum of K。y words：V缸iable selection，Quasi Bayesian likelihood，Quasi posterior distributi。n{Qua8i p。sterior fuⅡction，Quasi P。sterior Ba聊ian likelihood II 致 致 谢 非常感谢林路教授．本文从选题到定稿自始至终得到了林老师悉心严格的指导，使 我对拟似然这个广阔的学术领域有了更加透彻的认识．在南开大学求学的几年中，我深 深地感受到了林老师渊博的