机器学习 课件 8.1概率有向图模型.pdf

概率有向图模型

概率有向图模型

基本原理使用有向无环图表示变量之间的关系

例：p(x,x,x)是关于变量x,x,x的一个联合概率分布x2x3

123123

概率乘积规则展开

p(x|x,x)p(x|x)p(x)

312211

x

1

xxx

Ø每个变量对应一个结点，如果存在从结点到结点的有向边，则结点

121

xxx

是结点的父结点，结点是结点的子结点

221

Ø每个条件概率对应⼀条有向边，起点是条件概率中条件随机变量对应的结点

K个变量的概率有向图模型？

概率有向图模型

K个变量的联合概率分布表示为

概率乘积规则展开

xx……x……x

12ik

对应

完全⼀般的联合概率分布全连接概率图模型

非全连接概率图模型？

概率有向图模型

请思考：下式如何用概率图模型进行表示，它是全连接的吗？

p(x)p(x)p(x|x,x)p(x|x,x)p(x|x)p(x|x,x,x)

12312413546345

xxx

145

xxx

236

概率有向图模型

图的所有结点上定义的联合概率分布由每个结点上的条件概率分布的乘积表示，

结论：

每个条件概率分布的条件都是图中结点的父结点所对应的变量。

K

⼀个有个结点的图，联合概率：

pax

k表示结点的父结点的集合

k

此公式表示有向图模型的联合概率分布的分解属性。

有向图不能存在有向环

TheEnd