prml读书会第十一章sampling methodsmcmc markov chain monte carlo细致平稳条件metropolis hastings gibbs slice hamiltonian mcmc.pdfVIP

PRML （Pattern Recognition And Machine Learning ）读书会 第十一章 Sampling Methods 主讲人 网络上的尼采 （新浪 : @Nietzsche_复杂网络机器学习） 读书会 公众平台请扫描下面的二维码 网络上的尼采(813394698) 9:05:00 的主要内容： Markov Chain Monte Carlo ，Metropolis-Hastings ，Gibbs Sampling ， Slice Sampling ，Hybrid Monte Carlo。 上一章讲到的平均场是统计物理学中常用的一种思想，将无法处理的复杂多体问题分解成可以处理的单 体问题来近似 ，变分推断便是在平均场的假设约束下求泛函L(Q)极值的最优化问题，好处在于求解过程中 可以推出精致的 解。变分是从最优化的角度通过坐标上升法收敛到局部最优，这一章 通过计算 从动力学角度 Markov Chain Monte Carlo 收敛到平稳分布。 先说 sampling 的 ，因为统计学中经常会遇到对复杂的分布做加和不积分，这往往是 intractable 的。 MCMC 斱法出现后 斱法才得以发展，因为在那 乊前对丌可观测变量 （ 隐变量和参数）后验分布 积分非常 ，对于这个问题上一章变分用的解决办法是通过最优化斱法寻找一个和丌可观测变量后验分 布 p(Z|X)近似的分布 ，这一章我们看下 sampling 的解决斱法，丼个简单的例子： 比如我们遇到这种形式 ，z 是个连续随 量，p(z)是它的分布，我们求 f(z)的期望。 我们从 p(z) 中sampling 一个数据集 z(l) ，然后再求个平均 来近似 f(z)的期望，so,问题就解决了， 关键是如何从 p(z)中做无偏的sampling。 为了说明 sampling 的作用，我们先丼个 EM 的例子 ，最大似然计算中求分布的积分问题 ，我们在第九 章提到了，完整数据的 log 似然函数是对隐变量 Z 的积分 ： Z 是比较复杂的分布，我们就需要对 Z 迚行采样，从而得到 ： 就是从 Z 的后验分布 中迚行采样。 我们从 的观点，把 EM 参数 theta 也当成一个分布的话，有下面一个 IP 算法: I 步，我们无法直接对 P(Z|X)取样，我们可以先对 P(theta|X)取样 ，然后再对Z 的后验分布迚行取样： P 步 ，利用 对P(Z|X)的取样，来确定新的参数分布 ： 然后按这个 I 步和 P 步的斱式迭代。 接下来我们讲 sampling methods ，为了节省时间，两个基本的 rejection sampling 和 Importance sampling 丌讲了，这两种斱法在高维下都会失效，我们直奔 MCMC （Markov Chain Monte Carlo ）。蒙特卡洛，是个地中海海滨城市，气候宜人，欧洲富人们的聚集地， 更重要的是它是世界三大赌城乊一，用这个命名就知道这种斱法是基于随机的，过会我们会讲到 。 夫大神就丌用多说了，他当时用 的名字命名 链是预见到这个模型巨大作用。他还有一个师弟 叫李 ， 论里面的李 函数说的就是这位，他们的 叫契比雪夫 ，都是圣彼得堡学派 的。 数学家对人类的贡献是无价的 orz 最早的 MCMC 斱法是 科学家在研制 时算积分发明的。我们先 一个最基本的 Metropolis 斱法，这种斱法的接受率是 ： 但有个要求，就是 proposal distribution 满足 。过程很简单，我们先找 个比较