Computational Sampling文献资料.pdfVIP

Computational Sampling: Why, God, Why? Friday, September 07, 2012 2:13 PM • How to generate samples from an arbitrary probability distribution is a  significant concern for those who want to use Bayesian methods • If we want to summarize the posterior density of some relevant quantity,  we have to be able to show and work with it • This is easy if the posterior is an analytically closed‐form density… but many  Bayesian posteriors are not ○ Significant advantage of Bayesian methods: very complex models can  be specified ○ ...but not as a simple likelihood with a conjugate prior • We need to find a way to get information about the shape of posterior  densities for which we cant write down a direct function 3 - Bayesian Inference II - Computation Page 1 Monte Carlo Integration Friday, September 07, 2012 5:02 PM • Start with a more basic idea: how do we determine: the area under a density inside of an interval  , if we cant analytically  solve the integral (i.e., the cumulative density)? • One idea: Monte Carlo integration Draw a lot of samples of from  ○ ○ Add up the number of samples that are inside of  , and divide by  the total number of samples So… how do we sample  from  • ? • This is the subject of a massive amount of study. We will cover just a few  simple methods. 3 - Bayesian Inference II - Computation Page 2 The Accept‐Reject Sampling Algorithm Friday, September 07, 2012 5:06 PM 1) Create a proposal density,  ; this should be analytically closed (