第四章相似性度量聚类准则.docVIP

第四章 用距离函数进行模式识别 §2 相似性度量和聚类准则 1] 相似性度量 距离（点点） 不相似性度量 当且仅当 x=z, 反身性 对称性 三角不等式 如只满足前两条，则为广义距离 欧式距离 P=2 minkowsky距离 P=1 绝对值距离 chebyshev距离 2. 相似系数 A两个矢量的相似系数为其夹角的余弦，当两个矢量越相似，则二者的夹角越小，夹角的余弦越大。 B 两个样本的相似系数 Xi Xj =1 , C 两个分量之间的相似系数 共N个样本 3．点与点集以及点集与点集间的距离 类平均距离：所有距离平方的平均值开根 重心距离：取集合的中心，中心与中心的距离 抗干扰性好 最短距离：所有距离之间最短的 对噪声比较敏感 2]聚类准则 集群（聚类）Clustering——无训练样本，有样本，意在寻找样本间的内在联系进行样本划分。 样本N,分成C个群 …… …… 1. 离差平方和准则（最小方差分割） Minimum Variance Partition 适用于团内紧密，团间稀疏的情况 2. 离散度准则 （Scatter Matrix） ⅰ 类内离散度矩阵 第i类的离散度矩阵 —某一类中所有样本相对该类中心的离散程度： 总的类内离散度矩阵 —所有类的类内离散度矩阵的和： ⅱ 类间离散度矩阵 －每一类的中心相对总的中心的离散程度，每一类的样本 m是所有样本中心 ⅲ 总离散度矩阵—所有样本相对总的中心的离散程度： 为常数，一旦样本给出，则为定值，,与样本划分有关 ，都是矩阵，定准则比大小 A) 迹准则 J= = = = 同离差平方和准则 ② 常= B) 行列式准则 ① ② 但SB常为奇异阵，此准则不足取。 C) 具有线性变换不变性 作线性变换 y=Ax 类别数C的确定非常重要，若C=N，则单点成一类，离差平方和准则达到最大，但这种聚类没有意义。一般，C由先验知识得到，C的确定对J有影响。 5