能源系统大数据分析理论与实-3.无监督学习.docxVIP

能源系统人工智能方法第三节

无监督学习—Clustering

AssociationRule

2

背景

能源系统运行过程中会产生海量的数据

数据特点：变量种类多、数据体量大、价值密度低、数据标签稀缺

如何从繁杂的数据中提取有用的信息？

如何从繁杂的数据中提取有用的信息？

3

背景

数据挖掘技术被认为是解决这一问题的方法

HVACsystemoperationdata

Datamining

高价值数据

4

背景

无监督学习算法是常用的数据挖掘方法：

无监督学习：样本的标记信息未知，通过对样本的学习来揭示数据的内在性质和规律的过程

对数据做进一步分析

有价值知识

5

背景

无监督学习算法典型能源应用场景:

6

背景

无监督学习的一般流程:

1.数据预处理

2.无监督数据挖掘

3.知识后挖掘

7

提纲

o背景

o聚类

定义与基本原理

原型聚类（以k-means算法为代表）

密度聚类（以DBSCAN为代表）

层次聚类（以AGNES为代表）

o关联规则挖掘

定义与基本原理

Apriori算法

FP-growth算法

应用案例

o知识后挖掘

聚类后挖掘

关联规则后挖掘

8

聚类的定义

聚类(Clustering)：将数据集中的样本划分为若干个通常是不相交的子集，每个子集称为一个“簇”(cluster)

聚类结果：算法自动生成

簇的意义：由使用者定义

数据聚类结果示意图三个聚类簇

数据聚类结果示意图

三个聚类簇

9

数学表达

样本集D：包含m个样本D={x1,x2,...,xm}

每个样本xi：为一个包含n个数的向量xi=(xi1,xi2,...,xin)

聚类过程：基于样本间的相似程度将样本集中的样本划分为k个子集（聚类簇）

聚类目的：得到包含每个样本归属于哪个簇的簇标记向量λ=(λ1,λ2,...,λm)

含n=2个数

x11x12

样本集（样本数m=6） x1x2x3口□x4b口口x5b口口x6b

样本集

（样本数m=6）

聚类簇数目k=2

聚类算法x

聚类算法

x1x2x3x4

x5x6

聚类簇1

聚类簇2

10

相似性度量

相似性度量：用于定量估计样本间的相似程度

分类：

几何距离的性质：

1.非负性：样本之间的距离大于等于0

2.同一性：相同样本间的距离为0

3.对称性：样本互相交换位置不改变结果

4.直递性：两点之间直线距离最短

11

相似性度量-几何距离-闵可夫斯基距离

闵可夫斯基距离：范围∈(0,∞)，越大越不相似

?样本xi=(xi1,xi2,…xin)和xj=(xi1,xi2,…xin)的距离计算公式：1

1.几何距离：

①闵可夫斯基距离

②马拉哈诺比斯距离

③余弦距离

2.相关系数：

①皮尔逊相关系数

②斯皮尔曼相关系数

p值不同时，具有不同的名称以及计算公式：

p=1：曼哈顿距离

p=2：欧式距离

p=∞：切比雪夫距离

12

相似性度量-几何距离-闵可夫斯基距离

二维空间中的三种距离展示

1.几何距离：

①闵可夫斯基距离

②马拉哈诺比斯距离

③余弦距离

2.相关系数：

①皮尔逊相关系数

②斯皮尔曼相关系数

?红色点划线：曼哈顿距离，温湿度差值绝对值之和

?黄色直线：欧氏距离，两点之间的直线距离

?蓝色虚线：切比雪夫距离，温湿度差值绝对值的最大值

13

相似性度量-几何距离-马拉哈诺比斯距离

马拉哈诺比斯距离：

?适用于衡量量纲存在显著差异的样本间的相似度

实例展示：

1.几何距离：

①闵可夫斯基距离

②马拉哈诺比斯距离

③余弦距离

2.相关系数：

①皮尔逊相关系数

②斯皮尔曼相关系数

d2d1d

d2

d1d1d2

25~35℃

取值差异过大d1d1d2

取值差异过大

40~90%40~90%

使用欧氏距离进行聚类

d1将纳入绿点

使用马拉哈诺比斯距离进行聚类

d2将纳入绿点

可看作是欧氏距离的推广

可看作是欧氏距离的推广

14

相似性度量-几何距离-马拉哈诺比斯距离

马拉哈诺比斯距离计算示例：

?数据来源：7个房间同一天的室内信息

房间

平均温度(oC）

平均相对湿度

（%）

房间1

2