马尔可夫链蒙特卡洛方法.pptxVIP

BasicofMarkovChainSimulation马尔可夫链蒙特卡洛方法

目录Contents一、引入Introduction二、马尔可夫链MarkovChain三、蒙特卡洛方法MonteCarlo四、M-H算法Metropolis-Hastings五、吉布斯采样GibbsSampler

马尔科夫链蒙特卡洛一、引入Introduction定义:马尔科夫链蒙特卡洛方法(MarkovChainMonteCarlo)，简称MCMC，产生于20世纪50年代早期，是在贝叶斯理论框架下，通过计算机进行模拟的蒙特卡洛方法(MonteCarlo)。该方法将马尔科夫(Markov)过程引入到MonteCarlo模拟中，实现抽样分布随模拟的进行而改变的动态模拟，弥补了传统的蒙特卡罗积分只能静态模拟的缺陷。MCMC是一种简单有效的计算方法，在很多领域得到广泛的应用，如统计物、贝叶斯(Bayes)问题、计算机问题等。基本思想：构造一条Markov链，使其平稳分布为待估参数的后验分布，通过这条马尔科夫链产生后验分布的样本，并基于马尔科夫链达到平稳分布时的样本(有效样本)进行蒙特卡洛积分。

马尔科夫链蒙特卡洛一、引入Introduction从理论上说，贝叶斯推断和分析是容易实施的，即对于任何先验分布，只需要计算所需后验分布的性质，如后验分布的矩(如后验均值、后验方差)、后验概率密度函数等，而这些计算本质上就是计算后验分布某一函数的高维积分。但在实践中，鉴于未知参数的后验分布多为高维、复杂的非常见分布，对这些高维积分进行计算十分困难，这一困难使得贝叶斯推断方法在实践中的应用受到很大的限制，在很长一段时间，贝叶斯推断主要用于处理简单低维的问题，以避免计算上的困难。MCMC方法突破了这一原本极为困难的计算问题，它通过模拟的方式对高维积分进行计算，进而使原本异常复杂的高维积分计算问题迎刃而解，使贝叶斯方法仅适用于解决简单低维问题的状况大有改观为贝叶斯方法的应用开辟了新的道路。

一、引入IntroductionM-H算法吉布斯采样蒙特卡洛（MonteCarlo）马尔可夫链(MarkovChain）MCMC

Thefutureisindependentofthepastgiventhepresent.二、马尔可夫链MarkovChain无记忆性Memorylessness状态空间StatesSpace转移矩阵TransitionMatrix

Thefutureisindependentofthepastgiventhepresent.二、马尔可夫链MarkovChain状态空间StatesSpace马尔科夫链为状态空间中经过从一个状态到另一个状态的转换的随机过程，该过程要求具备“无记忆性”，即下一状态的概率分布只能由当前状态决定，在时间序列中它前面的事件均与之无关。这种特定类型的“无记忆性”称作马尔可夫性质。马尔科夫链认为过去所有的信息都被保存在了现在的状态下了。比如这样一串数列1-2-3-4-5-6，在马尔科夫链看来，6的状态只与5有关，与前面的其它过程无关。

在时刻X无记忆性二、马尔可夫链MarkovChain状态空间假设有序列状态：?某一时刻状态转移的概率只依赖于它的前一个状态，那么我们只要能求出系统中任意两个状态之间的转换概率就可以构建马尔科夫链的模型。

在时刻X转移矩阵二、马尔可夫链MarkovChain状态转移矩阵例：股市BullBearStagnantBullBearStagnant位置P(Bear,Bull)的值为P(Bull|Bear)，从状态Bear转化到状态Bull的概率

在时刻X转移矩阵的性质二、马尔可夫链MarkovChain假设当前初始状态股市概率（t0）为[0.3，0.4，0.3]，结合状态转移矩阵计算下一次的概率分布t1，t2，t3……的状态初始状态x转移矩阵=下一次的状态概率分布

在时刻X转移矩阵的性质二、马尔可夫链MarkovChain马尔可夫链模型的状态转移矩阵收敛到的稳定概率分布与我们的初始状态概率分布无关。如果我们得到了这个稳定概率分布对应的马尔可夫链模型的状态转移矩阵，则我们可以用任意的概率分布样本开始，带入马尔可夫链模型的状态转移矩阵，这样经过一些序列的转换，最终就可以得到符合对应稳定概率分布的样本。

在时刻X三、蒙特卡洛方法MonteCarloSimulation蒙特卡罗法又称统计模拟法，是一种以抽样和随机数的产生为基础的随机性方法，因此也称为随机抽样法、计算机随机模拟法等。蒙特卡罗方法的基本原理是通过数字模拟试验，得到所要