海理定理与条件随机场中的特征函数.docVIP

海理定理与条件随机场中的特征函数

一、海理定理：概率图模型的理论基石

1.1海理定理的核心内涵

海理定理（Hammersley-CliffordTheorem）是概率图模型领域的核心理论之一，它建立了马尔可夫随机场（MarkovRandomField,MRF）与吉布斯分布（GibbsDistribution）之间的等价关系。简单来说，该定理指出：任何一个满足局部马尔可夫性的概率分布，都可以表示为吉布斯分布的形式；反之，任何吉布斯分布也必然满足局部马尔可夫性。

从数学角度看，设$G=(V,E)$表示一个无向图，其中$V$是节点集合，代表随机变量，$E$是边集合，代表变量之间的依赖关系。若随机变量集合$X={X_v|v\inV}$服从吉布斯分布，则其联合概率密度函数可表示为：$$P(X=x)=\frac{1}{Z}\prod_{C\in\mathcal{C}}\psi_C(x_C)$$其中，$\mathcal{C}$是图$G$中所有极大团（MaximalClique）的集合，$x_C$是团$C$中变量的取值，$\psi_C(x_C)$是定义在团$C$上的势函数（PotentialFunction），$Z=\sum_{x}\prod_{C\in\mathcal{C}}\psi_C(x_C)$是配分函数（PartitionFunction），用于保证概率分布的归一性。