机器学习课件 7.1概率有向图及贝叶斯网络基础知识.pptxVIP

概率有向图模型—贝叶斯网络

使用有向无环图表示变量之间的关系

概率有向图模型

基本原理

是关于变量

的一个联合概率分布

例：

概率乘积规则展开

K个变量的概率有向图模型？

每个条件概率对应⼀条有向边，起点是条件概率中条件随机变量对应的结点

每个变量对应一个结点，如果存在从结点到结点的有向边，则结点是结点的父结点，结点是结点的子结点

概率有向图模型

K个变量的联合概率分布表示为

概率乘积规则展开

完全⼀般的联合概率分布

全连接概率图模型

非全连接概率图模型？

对应

概率有向图模型

请思考：下式如何用概率图模型进行表示，它是全连接的吗？

概率有向图模型

结论：

图的所有结点上定义的联合概率分布由每个结点上的条件概率分布的乘积表示，

每个条件概率分布的条件都是图中结点的父结点所对应的变量。

表示结点的父结点的集合

此公式表示有向图模型的联合概率分布的分解属性。

⼀个有K个结点的图，联合概率：

有向图不能存在有向环

贝叶斯网络

起源于贝叶斯统计学，是以概率论为基础的有向图模型。

贝叶斯网络是用来表示变量间概率依赖关系的有向无环图。

贝叶斯网络在统计学、推荐系统、图像识别等领域具有广泛的应用价值。

表示随机变量，

是对过程、事件、状态等实体的某些特征的描述

表示变量间的概率依赖关系

两个重要

条件独立性

结点与其非