MC, MCMC, Gibbs采样 原理实现(in R).pdf

采样 原理 实现 （ ） 的专栏 博客频道 MC, MCMC, Gibbs in R - Rachel Zhang - - CSDN.NET Not e bo o k : Life Notebook Cre at e d : 11/ 13/20 14 1:28 PM URL : htt p:// /abcjennifer/art icle/details MC,MCMC,Gibbs采样原理实现 （inR） 分类：Data Structure MATLAB Data Mining Machine Learning Python 2014-05-15 19:50 672 1人阅 读 评论(10) 收藏 举报 Gibbs采样 Markov Chain Monte Carlo MCMC R语言 本文用讲一下指定分布的随机抽样方法 ：MC(MonteCarlo),MC(MarkovChain), MCMC(MarkovChainMonteCarlo)的基本原理 ，并用R语言实现了几个例子 ： 1.MarkovChain （马尔科夫链） 2.RandomWalk （随机游走） 3.MCMC具体方法 ： 3.1M-H法 3.2Gibbs采样 PS ：本篇blog为ese机器学习短期班参考资料 程），课上讲详述。 下面三节分别就前面几点简要介绍基本概念 ，并附上代码。这里的概念我会用最最naive的话 去概括 ，详细内容就看我最下方推荐的链接吧(*^__^*) 0.MC(MonteCarlo) 生成指定分布的随机数的抽样。 1.MarkovChain （马尔科夫链） 假设f(t)是一个时间序列 ，MarkovChain是假设f(t+1)只与f(t)有关的随机过程。 ImplementinR [pyt hon] 01. #author: rachel @ ZJU 02. #email: zrqjennifer@ 03. 04 . N = 10000 05. signal = vector(length = N) 06. signal[1] = 0 07. fo r (i in 2:N) 08. { 09. # random select one offset (from [-1,1]) to signal[i-1] 10. signal[i] = signal[i-1] + sample(c(-1,1),1) 11. } 12. 13. plot( signal,type = l,col = red ) 2.RandomWalk （随机游走） 如布朗运动 ，只是上面MarkovChain的二维拓展版 ： ImplementinR [pyt hon] 01. #author: rachel @ ZJU 02. #email: zrqjennifer@ 03. 04 . N = 100 05. x = vector(length = N) 06. y = vector(length = N) 07. x[1] = 0 08. y[1] = 0 09. fo r (i in 2:N) 10. { 11. x[i] = x[i-1] + rnorm(1) 12. y[i] = y[i-1] + rnorm(1) 13. } 14 . 15. 16. plot(x,y,type = l, col= red ) 3.MCMC具体方法 ：  MCMC方法最早由Metropo