马氏链在monte carlo随机模拟中的应用定义 - read.ppt

Monte Carlo Simulation Methods(蒙特卡罗模拟方法) 主要内容: 1.各种随机数的生成方法. 2.MCMC方法. 从Buffon 投针问题谈起 Buffon 投针问题 数值积分问题 Monte Carlo数值积分的优点 随机模拟计算的基本思路 随机数的生成 1.蒙特卡罗模拟的关键是生成优良的随机数。 2.在计算机实现中,我们是通过确定性的算法生成 随机数,所以这样生成的序列在本质上不是随机 的,只是很好的模仿了随机数的性质(如可以通过 统计检验)。我们通常称之为伪随机数(pseudo-random numbers)。 3.在模拟中，我们需要产生各种概率分布的随机数，而大多数概率分布的随机数产生均基于均匀分布U(0,1)的随机数。 U(0,1)随机数的生成 一个简单的例子 一个简单的例子(续) 线性同余生成器(Linear Congruential Generator ) 常用的线性同余生成器 复杂一些的生成器（一） 复杂一些的生成器（二） 算法实现 由rand()函数生成的U[0,1]随机数 由rand函数生成的2维随机点 从U(0,1)到其它概率分布的随机数 Inverse Transform Method Inverse Transform Method 几个具体例子（一） 几个具体例子（二） 几个具体例子（三） 标准正态分布随机数的生成 Box-Muller 算法 逆变换方法（一） 逆变换方法（二） 逆变换方法（三） Matlab生成的正态随机数 Acceptance-Rejection Method（一） Acceptance-Rejection Method（二） Acceptance-Rejection Method（三） Acceptance-Rejection Method（四） 几个具体例子（一） 几个具体例子（一） 几个具体例子（二） 几个具体例子（二） 随机向量的抽样方法（一） 随机向量的抽样方法（二） 生成多维正态随机数的方法（一） 生成多维正态随机数的方法（二） 用Monte Carlo方法求解Laplace方程 参见书上5.8节 P213~P215 Markov chain Monte Carlo (MCMC) MCMC方法的基本思路 概率转移核的构造（一） 概率转移核的构造（二） 概率转移核的构造（三） Metropolis-Hastings 算法的具体步骤 几种常用的 q(x,x’)（一） 几种常用的 q(x,x’)（二） Acceptance-Rejection 方法最早由 Von Neumann 提出，现在已经广泛应用于各种随机数的生成。 基本思路： 通过一个容易生成的概率分布 g 和一个取舍 准则生成另一个与 g 相近的概率分布 f 。 具体步骤： 下面我们验证由上述步骤生成的随机数 Y 确实 具有密度函数 f(x) 所以为了提高舍取法的效率，我们应该使 c 的取值尽 可能的小，也就是使 f 和 g 的分布更为相近。 生成多维正态随机数的具体步骤： 马氏链在Monte Carlo随机模拟中的应用 定义 为要模拟服从给定分布的随机变量,用生成一个易于 实现的不可约遍历链 作为随机样本, 使其平稳分布为 的方法，称为马氏链蒙特卡罗方法. 蒙特卡罗方法的一个首要步骤是产生服从给定的概率分布函数 的随机变量(或称为随机样本),由概率论知识,熟知下面的结论. 引理 生成随机变量U,使其分布满足U[0,1],记为U~U[0,1], F(x)是给定的一个分布函数,记 为F(x)的反函数,则X=F-1(U)分布函数为F(x). 米特罗波利斯(Metropolis)等人在1953年最早 给出了通过生成一马氏链实现从分布 中采 样(生成相关的样本)这一重要基本思想.随后, 哈斯汀(Hastings)将其推广到更一般的形式. 下面仅叙述状态空间S为至多可数的情形: 问题提出： MCMC 是一种简单有效的计算方法，在统计物理， Bayes 统计计算，显著性检验，极大似然估计等领 域都有着广泛的应用。 基本思路： MCMC的方法有很多，在此我们只介绍Metropolis-Hastings方法。 基本思路： Metropolis-Hastings 算法： * * 31808 3408 0.83 1925 Lazzarini 3.15951 489 1030 0.75 1884 Fox 3.15665 1218 3204 0.60