基于MCMC模拟贝叶斯分层模型及其应用.docVIP

基于MCMC模拟贝叶斯分层模型及其应用 　　摘 要 英国学者贝叶斯于1763年提出了贝叶斯公式，经过拉普拉斯的改进形成了贝叶斯定理。分层贝叶模型是贝叶斯定理的发展，其在参数估计与推断统计方面有着很大的优势，但是其数值计算难度很大。模特卡罗马尔科夫链（MCMC）模拟方法能够比较好地解决此问题。本文介绍了基于MCMC模拟的分层模型，及其在经济中的一些应用。 　　关键词 贝叶斯分层模型 模特卡罗 马尔科夫链 　　中图分类号：O212.8 文献标识码：A 　　1贝叶斯统计 　　1763年，英国学者贝叶斯在英国伦敦皇家学会的“Philosophical Transactions”上发表了题目为《An Essay Towards Solving a problem in the Doctrine of Chances》（《论有关机遇问题的求解》），他在该论文中提出了著名的贝叶斯公式。但是，在发表后的相当长时间内，贝叶斯公式并没有引起学者的关注，直到1812年，拉普拉斯在他的书中首次将贝叶斯定理及其思想展现在世人面前。 　　贝叶斯统计与经典统计最大的区别在于贝叶斯统计强调先验分布。贝叶斯学派认为，在关于 的任何统计推断问题中，事先根据主观判断存在一个关于 的先验分布，该分布是样本信息以外，非常重要的信息。贝叶斯学派认为先验分布为在抽样前已经形成，它是不需要有客观依据，主要基于人们的主观判断。 　　在贝叶斯分析中，一般只知道后验分布密度函数的核，难以获得具体的边缘密度函数和条件密度函数，也很难找到累积分布函数的数值分位点，以至于计算边缘后验分布密度函数和条件密度函数相当的困难。这些困难限制了贝叶斯方法的发展。虽然拉普拉斯所提出的算法在一定程度上能够解决贝叶斯后验分布的高维问题，但是其数值计算难度太大。随着计算机技术的发展和新方法的提出，特别是MCMC方法的发展，使得原来复杂异常的数值计算问题变得简单，参数后验分布的模拟也趋于方便，使得现代贝叶斯理论和应用得以迅速发展。 　　2贝叶斯分层模型 　　分层贝叶斯分析基本思路是：当掌握总体结构和部分先验信息时，可以分层按步骤地建立模型，消除先验分布对估计结果的过度影响，从而增强估计的稳健性。其具体做法为：当所给定的先验分布中超参数难以确定时，对超参数再给出一个先验，这个先验就被称为超先验。由先验和超先验共同决定的一个新先验就称为分层先验。分层贝叶斯模型就是在原来的贝叶斯模型中的先验中加入分层先验信息。该模型其核心思想就是对先验分布采用分层先验信息。 　　在贝叶斯框架下首先需要设定数据分布： 　　y：f（y| ） 　　先验向量 的分布以超参数 为条件： 　　-g1（ | ） 　　而超然数 未知，设定其分布为： 　　-g2（ ） 　　由上面三个式子共同构成的模型称为分层模型。参数 中主要包含了的概率信息在分层模型中常以可交换性描述。模型构建的过程是首先依据 的成分 1， 2，…， k从g1分布中随机抽取的假设构建可交换性先验分布然后把超参数指定一个已知的分布形式即在第三式中指定g2的分布形式。 　　3MCMC模拟 　　贝叶斯方法在给定先验分布的条件下，仅需计算后验分布的矩、后验概率密度函数等所需的后验分布的性质即可。然而，在实践中，贝叶斯推断方法的应用还是受到了很大的限制，原因就在于这些未知参数的后验分布大多都是高维的、复杂的非一般常见的分布，计算过程较难以实现。所以，贝叶斯推断在相当一段时间内，只能用于处理一些简单低维的问题。直到通过模拟的方式对高维积分进行计算的MCMC （Markov Chain Monte Carlo）方法的出现，使得原本异常复杂的高维积分计算问题变得很容易解决，为贝叶斯方法的应用开辟了新的道路。 　　3.1模特卡罗马尔科夫链（MCMC） 　　蒙特卡罗方法的原理是通过“实验”的方法，以此求得某种随机事件出现的概率，运用大数定理的理论，以这种事件出现的频率“代替”这一随机事件的概率。也可以理解为将所要计算的积分看作服从某种分布密度函数f（r）的随机变量g（r）的数学期望： 　　E（g）=g（r）f（r）dr 　　通过某种“实验”，得到N个观测值r1，r2，…，rn，将相应的个N随机变量的值g（r1），g（r2），…，g（rn）的算术平均值：作为积分的估计值。 　　考虑只取有限或可数多个值的随机过程{Xn，n=0，1，2，…}。若Xn=i，就称过程在时刻n处于状态i，假设每当过程处于状态i，则在下一时刻将处于状态j的概率是固定的Pij。也即假设对一切状态i0，i1，…，in-1，有 　　P{Xn+1=i|Xn=i，Xn+1=in+1，…，X1=i1，X0=i0}=Pij 　　这样的随机过程称为马尔科夫链。 　　近年来广泛使用的MCM