MCMC方法.docxVIP

第7章 MCMC算法本章将介绍的马氏链蒙特卡罗（MCMC）方法是用来生成近似服从f分布的随机变量X的样本，从而估计关于X的函数的期望。7.1 Metropolis-Hastings 算法Metropolis-Hastings 算法是一种非常通用的构造马氏链的方法。这个方法从t=0开始，取，其中是从某个初始分布g中随机抽取的样本使得满足。给定，下面的算法用于产生。(1)由某提案密度产生一个候选值.(2)计算Metropolis-Hastings比率，其中 (7.1)注意总是有定义的，因为只有且时才有。(3)根据下式抽取： (7.2)(4)增加t，返回第1步。我们将第t步迭代称作产生的过程。通过Metropolis-Hastings算法构造得到的链满足马氏性，因为仅依赖于。而是否是非周期不可约的则取决于提案分布的选取，需要自己去检验是否满足这些条件。如果满足了，那么这样生成的链具有唯一的极限平稳分布。7.1.1独立链假设选取Metropolis-Hastings算法的提案分布为某个固定的密度函数使得。此时Metropolis-Hastings比率为（7.4）如果，则有，那么得到的马氏链就是非周期不可约的。注：选择重要抽样包络的准则同样适用于选择提案密度。提案密度应与目标分布近似，并在尾部包含。Code7.1.2 随机游动链Code结果：图7.5 例7.3中运行于u-空间的两条随机游动链对于deta的样本路径，b=0.01与b=1的情况7.1.3 击跑算法击跑算法的提案密度随时间变化而变化，具有时间非齐性。方向分布h常采用单位球面的均匀分布。在P维情况下，随机变量可以通过抽样一个p-维标准正态变量，通过作变换得到。7.1.4 Langebin Metropolis-Hastings算法注1：显然f中认为位置的增加的常数项在取导数后消失了。当f的导数很难求得时，可以使用其数值近似来代替。注2：与随机游动不同，此算法引入的漂移倾向于移向目标分布形式的提案值，从而更好的研究目标分布并且更快速收敛。一般的Metropolis-Hastings算法（包括随机游动链和独立链）通常采用不依赖于f形状的提案值，因此更容易实施，但有时趋于平稳或者充分寻找f的支撑趋于的速度很慢。注3：在一些应用中式(7.10)给出的更新的提案值产生的马氏链在合理的时间内不收敛，而且不能用于研究多峰的f7.1.5 Multiple-try Metropolis-Hastings 算法Multiple-try Metropolis-Hastings算法通过生成大量候选值以加强在附近f的研究。从这些提案值中选择一个能够确保此链保持正确的极限平稳分布的值。我们将使用提案分布g，以及可选择的非负加权，其中对称函数在后面讨论。为确保收敛到正确的极限平稳分布，必须满足条件：(1)(2)可以证明此算法产生的马氏链可逆，其极限平稳分布为f。此算法的效率依赖于k,f的形状以及g对f的延展度。加权函数可以用来进一步支持某种类型的提案。一个最简单的选择是。一种“方向有偏”方法，其中。另一种选择是，其定义在的区域内。当时，则。7.2 Gibbs抽样Gibbs抽样是一种专门处理多维目标分布的工具。我们的目标是构造一条马氏链其平稳分布等于目标分布f。Gibbs抽样通过由f的边际分布序贯抽样来达到上述目标。7.2.1 基本Gibbs抽样注：显然Gibbs抽样生成的链为马氏链。在相当温和的条件下，可以证明Gibbs抽样所得链的平稳分布为f。同时还可证明的极限分布等于目标分布沿第i个坐标求得的一元边际分布。7.2.2 立即更新当在t次迭代的时候X中的一些元素已经被更新了，如果在更新其他的元素是不使用这些更新后的值会造成一定程度的浪费。立即更新可以减少这种浪费，且这种方法改进了链的混合，即链能够更快速更详尽的探索目标分布的支撑空间。具体步骤如下：选择初始值x(0),并令t=0；逐个生成其中表示以最近其他元素最近的值为条件。(3)增加t，返回第(2)步7.2.3更新排序(7.16)中X元素的更新顺序对于不同的循环式可以变化的。有时对每个循环使用随机顺序比较合理，称为随机扫描Gibbs抽样。事实上没有必要对每个循环中的每个元素进行更新，而只要每个元素的更新足够频繁就可以了。7.2.4 区组化Gibbs抽样的另一种改进方法是所谓的区组化或者分组化。在Gibbs算法中，我们没有必要单独处理每一个X的元素，而是对X中的元素进行一定的分组。比如上面的(7.16)的一般步骤中，取p=4，对每一个循环课采用如下的组合更新序列：当X中的元素相关时，区组化特别有用，用其构造的算法能够使更相关的元素在同一个区组中被一起抽样出来。