UCB CS294 马尔科夫链蒙特卡罗基础与应用讲义.pdfVIP

CS294马尔可夫链蒙特卡洛方法：基础与应用2009年秋季

第一讲：8月27日

讲师：AlistairSinclair教授记录员：AlistairSinclair

免责声明：这些笔记没有经过通常保留给正式出版物的审查。

只有在获得讲师的许可后才能在课外分发。

1.1马尔可夫链蒙特卡洛方法

+w()

假设我们有一个非常大但有限的集合Ω和一个正权函数w：Ω→。我们的目标是以概率π(x)=x从

x∑

集合Ω中采样一个元素。x∈ΩwZ(x，其中归一化因子)，通常称为“分区函数Z=”，通常是未知的。（

实际上，在许多应用中，我们的最终目标是估计Z。）

马尔可夫链蒙特卡洛方法在Ω上构建了一个马尔可夫链（X），该链收敛到π，即当→∞时，独立于x，有

tt

Pr[Xt=y|X0=x]→π(y)。然后，通过模拟马尔可夫链在任意初始状态X上进行足够多的步骤，并输出

0

最终状态X，我们得到了一个采样算法。通常情况下，设置一个收敛到所需稳定分布的马尔可夫链并不困

t

难；然而，关键问题是“足够多”的步骤是多少，或者等价地说，链需要多少步才能“接近”π。这被称为链

的“混合时间”。显然，混合时间决定了采样算法的效率。

在本入门讲座的剩余部分中，我们通过勾勒一些应用领域来为MCMC提供动机，这些领域中需要从大型复

杂组合集合中进行随机抽样。我们专注于可以得到严格证明的算法的应用；如果需要更加实践导向的重点

，请参考JunLiu的优秀著作[L02]。

1.2应用

1.2.1组合学

组合学中的应用包括：

•研究组合集合的典型成员，可用于构建和测试猜想。

例如，通过对n个顶点的随机3-正则图进行抽样，我们可以提出猜想，即它们（几乎）都是哈密顿图；

这个猜想实际上已经成为定理。

•为算法生成测试数据。

通常，对完全随机输入（例如任意随机图）进行算法测试是无信息的。MCMC可以用于从更复杂的

类别（例如稀疏连通图）生成输入，这可以构成对算法更有说服力的测试基础。

•概率构造。

可以通过概率方法证明某些对象的存在（例如具有所需连通性属性的网络）

1-1

1-2第一讲：8月27日

但在许多情况下，所需的概率构造非常复杂，不明显如何以算法方式实现。例如，最近构造的高效低

密度奇偶校验码需要具有指定度数的随机二分图。

如何直接生成这样的图尚不清楚，但是它们可以通过MCMC方法高效地生成。

WWW的某些模型提供了类似的例子，它们也是基于具有指定顶点度数的随机图（有时还带有其他属

性）。

•近似计数。

一个不太明显但更具影响力的组合应用是计算集合Ω的元素数量，Ω可以是图G中的团的集合，也可

是布尔公式φ的满足赋值的集合。几乎所有这类计数问题都是#P-complete的（这类似于决策问题的N

P-completeness）；然而，在许多情况下，MCMC提供了一种高效的随机近似算法。

将（近似）计数问题归约为随机抽样的一般技术可以通过以下通俗的场景来解释，该场景用于计算人

群Ω中的人数：

1.将群体Ω根据某种属性（比如“有黑发”）分成两部分，B和B=Ω−B。

2.通过从群体