聚类分析的资料.pptxVIP

聚类分析的资料第1页/共93页 2聚类分析起源于分类学，在考古的分类学中，人们主要依靠经验和专业知识来实现分类。随着生产技术和科学的发展，人类的认识不断加深，分类越来越细，要求也越来越高，有时光凭经验和专业知识是不能进行确切分类的，往往需要定性和定量分析结合起来去分类。于是,数学工具逐渐被引进分类学中，形成了数值分类学。后来随着多元分析的引进，聚类分析又逐渐从数值分类学中分离出来而形成一个相对独立的分支。第2页/共93页 3 与多元分析的其他方法相比，聚类分析方法较为粗糙，理论上还不够完善，正处于发展阶段。 但是，由于该方法应用方便，分类效果较好，因此越来越为人们所重视。近些年来聚类分析的方法发展较快，内容越来越丰富。第3页/共93页 4社会经济领域中存在着大量分类问题：例如：对我国30个省市自治区独立核算工业企业经济效益进行分析，一般不是逐个省市自治区去分析，而较好地做法是选取能反映企业经济效益的代表性指标，如百元固定资产实现利税、资金利税率、产值利税率、百元销售收入实现利润、全员劳动生产率等等，根据这些指标对30个省市自治区进行分类，然后根据分类结果对企业经济效益进行综合评价，就易于得出科学的分析。 第4页/共93页 5总之，需要分类的问题很多，聚类分析正是研究这类“物以类聚”问题的一种多元统计分析方法。因此聚类分析这个有用的数学工具越来越受到人们的重视，它在许多领域中都得到了广泛的应用。要提出的是，若将聚类分析和其它方法联合起来使用，如判别分析、主成分分析、回归分析等往往效果更好。第5页/共93页 6这里的聚类分析与其他分类方法不同的是在分类之前，并不知道分类的标准，甚至对类的个数、类的属性并不清楚，是在没有任何先验知识的情况下进行的，只是希望通过样品或变量间的相似、相近或关系密切程度等较为模糊的概念将它们加以适当的归类，客观地确定分类标准。第6页/共93页 一个简单例子：对学生进行分类学号数学成绩英语成绩00173680026669003848200491880059490第7页/共93页 8对这5名学生的分类结果若分成两类，则001号和002号学生应是同一类的，而003、004、005号学生是另一类的。若分成三类，则001号和002号学生应是一类的，003号自成一类，而004号与005号学生是一类的。可见，对学生的分类是在没有指定任何分类标准的前提下进行的，分类的依据完全从数据本身出发，完全依据样品的相似程度来划分的。001号与002号之所以在一类中，完全是由于他们的成绩非常接近，之所以没有与005号分在同一类中，也完全是由于他们的成绩相差很远。这一点与我们经常遇到的分类问题不同（如人类按照性别标准划分，可分为男性与女性，等等，这里是有指定的分类标准的）第8页/共93页 9聚类分析正是基于这种出发点，实现对样本数据的自动分类的。第9页/共93页 10 §5.2 距离和相似系数为了将样品(或指标)进行分类，就需要研究样品之间关系。目前用得最多的方法有两个：一种方法是用相似系数，性质越接近的样品，它们的相似系数的绝对值越接近1，而彼此无关的样品，它们的相似系数的绝对值越接近于零。比较相似的样品归为一类，不怎么相似的样品归为不同的类。另一种方法是将一个样品看作p维空间的一个点，并在空间定义距离，距离越近的点归为一类，距离较远的点归为不同的类。 第10页/共93页 11变量的类型由于相似系数和距离有各种各样的定义，而这些定义与变量的类型关系极大，因此，首先，介绍变量的类型。 由于实际问题中，遇到的变量有的是定量变量(如长度、重量等)，有的是定性变量(如产品等级、性别、职业等)。通常将变量(指标)的类型按以下三种尺度划分： 第11页/共93页 12变量的类型分为以下三类：间隔尺度scale：变量是用连续的量来表示的，如长度、重量、压力、速度等等。有序尺度ordinal：变量度量时没有明确的数量表示，而是划分一些等级，等级之间有次序关系，如某产品分上、中、下三等，此三等有次序关系，但没有数量表示。名义尺度nominal：变量度量时既没有数量表示，也没有次序关系，如某物体有红、黄、白三种颜色，又如医学化验中的阴性与阳性，市场供求中的“产”和“销”，还有性别、职业、产品的型号等。第12页/共93页 13不同类型的变量，在定义距离和相似系数时，其方法有很大差异，使用时必须注意。通常研究比较多的是间隔尺度的变量，因此本章主要给出间隔尺度的距离和相似系数的定义。第13页/共93页 14第14页/共93页 15问题转变为矩阵的行与行、列与列向量间的相似关系的讨论第15页/共93页 16问题转变为矩阵的行与行、列与列的向量间的相似关系的讨论对样品分类(研究行与行之间的相似关系，称为Q-型聚类分析)对指标分类(研究列与列之间的相似关系，