非监督学习办法之聚类分析.pptxVIP

第一章 非监督学习方法：聚类分析;§1.1 基本概念;相似性与距离聚类 相似性：模式之间具有一定的相似性，这既表现在实物的显著特征上，也表现在经过抽象以后特征空间内的特征向量的分布状态上。 聚类分析定义：对一批没有标出类别的模式样本集，按照样本之间的相似程度分类，相似的归为一类，不相似的归为另一类，这种分类称为聚类分析，也称为无监督分类。;分类依据：一个样本的特征向量相当于特征空间中的一点，整个模式样本集合的特征向量可以看成特征空间的一些点，点之间的距??函数可以作为模式相似性的度量，并以此作为模式的分类依据。 聚类分析是按不同对象之间的差异，根据距离函数的规律进行模式分类的。 距离函数的定义 特征向量的特性 ;聚类分析的有效性：聚类分析方法是否有效，与模式特征向量的分布形式有很大关系。 若向量点的分布是一群一群的，同一群样本密集（距离很近），不同群样本距离很远，则很容易聚类； 若样本集的向量分布聚成一团，不同群的样本混在一起，则很难分类； 对具体对象做聚类分析的关键是选取合适的特征。特征选取得好，向量分布容易区分，选取得不好，向量分布很难分开。;特征空间维数 特征信息的冗余性：在对象分析和特征提取中，往往会提取一些多余的特征，以期增加对象识别的信息量。 高维特征空间分析的复杂性：特征空间维数越高，聚类分析的复杂性就越高 高维特征空间降维 降维方法： 相关分析：特征向量的相关矩阵