- 12
- 0
- 约1.03千字
- 约 5页
- 2017-04-06 发布于江苏
- 举报
-相似性度量聚类准则
第四章 用距离函数进行模式识别
§2 相似性度量和聚类准则
1] 相似性度量
距离(点点)
不相似性度量
当且仅当 x=z, 反身性
对称性
三角不等式
如只满足前两条,则为广义距离
欧式距离 P=2
minkowsky距离
P=1 绝对值距离
chebyshev距离
2. 相似系数
A两个矢量的相似系数为其夹角的余弦,当两个矢量越相似,则二者的夹角越小,夹角的余弦越大。
B 两个样本的相似系数 Xi Xj
=1 ,
C 两个分量之间的相似系数
共N个样本
3.点与点集以及点集与点集间的距离
类平均距离:所有距离平方的平均值开根
重心距离:取集合的中心,中心与中心的距离
抗干扰性好
最短距离:所有距离之间最短的
对噪声比较敏感
2]聚类准则
集群(聚类)Clustering——无训练样本,有样本,意在寻找样本间的内在联系进行样本划分。
样本N,分成C个群 …… ……
1. 离差平方和准则(最小方差分割) Minimum Variance Partition
适用于团内紧密,团间稀疏的情况
2. 离散度准则 (Scatter Matrix)
ⅰ 类内离散度矩阵
第i类的离散度矩阵
—某一类中所有样本相对该类中心的离散程度:
总的类内离散度矩阵
—所有类的类内离散度矩阵的和:
ⅱ 类间离散度矩阵
-每一类的中心相对总的中心的离散程度,每一类的样本
m是所有样本中心
ⅲ 总离散度矩阵—所有样本相对总的中心的离散程度:
为常数,一旦样本给出,则为定值,,与样本划分有关
,都是矩阵,定准则比大小
A) 迹准则
J=
=
=
= 同离差平方和准则
② 常=
B) 行列式准则
①
② 但SB常为奇异阵,此准则不足取。
C) 具有线性变换不变性
作线性变换 y=Ax
类别数C的确定非常重要,若C=N,则单点成一类,离差平方和准则达到最大,但这种聚类没有意义。一般,C由先验知识得到,C的确定对J有影响。
5
原创力文档

文档评论(0)