第5章 传统数据挖掘技术.pptVIP

 第5章 传统数据挖掘技术  5.1传统的统计分析类数据挖掘技术 5.2统计分析类工具 5.3统计分析类工具的应用 5.4统计分析类工具应用的问题 练习 5.1 传统的统计分析类数据挖掘技术 5.1.1 统计与统计类数据挖掘技术 1．统计与数据挖掘 统计推断分析 2．统计类数据挖掘技术 5.1 传统的统计分析类数据挖掘技术 5.1.2 数据的聚集与度量技术 常用的聚集函数，例如，count（）、sum（）、avg（）、max（）、min（）等 数据中心趋势度量，可以采用算术平均值 加权算术平均值。 5.1.3 柱状图数据挖掘技术 5.1.3 柱状图数据挖掘技术 5.1.4 线性回归数据挖掘技术 5.1.5 非线性回归数据挖掘技术 5.1.6 聚类数据挖掘技术 5.1.6 聚类数据挖掘技术 2.分层聚类 内蒙古 9 湖北 13 山东 2 辽宁 5 吉林 12 黑龙江 6 江西 7 上海 8 陕西 10 广西 11 广东 3 海南 4 浙江 15 新疆自治区 14 江苏 1 C A S E 0 5 10 15 20 25 Label Num +---------+--------+--------+--------+--------+ BIRCH算法引入了聚类特征和聚类特征树（CF树）概念。一个聚类特征（CF）是一个三元组，给出对象子聚类的信息汇总描述。如果某个子聚类中有N个d维的点或对象，则该子聚类的CF定义为CF=（N，LS，SS） 其中，N是子类中点的数目，LS是N个点的线性和，SS是数据点的平方和。如果某子聚类中有五个点（2，4）、（1，6）、（4，5）、（3，7）、（5，8），那么LS=（2+1+4+3+5，4+6+5+7+8）=（15，30），SS=（2×2+1×1+4×4+3×3+5×5，4×4+6×6+5×5+7×7+8×8）=(55,190),则可以得到CF=(5,(15,30),(55,190))。 CF树中所存储的是关于聚类的信息，这些信息是计算聚类和有效利用存储的关键度量。每个叶节点包含一个或多个子聚类，每个子聚类中包含一个或多个对象。一个CF树有两个参数，即分支因子B和阀值T，分支因子定义了每个非叶节点的后代最大数目，阀值参数给出了存储在叶节点中的子聚类的最大直径。 BIRCH算法主要分两个阶段进行： 阶段一：扫描数据库，建立一个初始的CF树，看作一个数据的多层压缩，试图保留数据内在的聚类结构。当一个对象被插入到最近的叶节点（子聚类）中时，如果在插入对象后，存储在叶节点中子聚类的直径大于阀值，那么该叶节点被分裂，也可能有其他节点被分裂。新对象插入后，关于该对象的信息向根节点传递。通过修改阀值，CF树的大小可以改变。 阶段二：采用某个聚类算法对CF树的叶节点进行聚类。 BIRCH算法具有可伸缩性，通过对数据集的首次扫描产生一个基本聚类，二次扫描则进一步改进聚类质量并处理孤立点。BIRCH算法处理速度较快，只是对非球形簇处理效果不好。 CURE算法的主要步骤如下： ⑴从源数据集中抽取一个随机样本S。 ⑵将样本S划分为一组划分。 ⑶对每个划分进行局部的聚类。 ⑷通过随机抽样剔除孤立点。如果一个簇增长太慢，就删除该簇。 ⑸对局部的簇进行聚类。落在每个新形成的簇中的代表点根据用户定义的收缩因子收缩或向簇中心移动。这些点代表了簇的形状。 ⑹用相应的簇标签来标记数据。 3.划分聚类 k-平均算法最为简单。每个簇用该簇中对象的平均值来表示。 ⑴首先将所有对象随机分配到k个非空的簇中。 ⑵计算每个簇的平均值，并用该平均值代表相应的簇。 ⑶根据每个对象与各个簇中心的距离，分配给最近的簇。 ⑷然后转第二步，重新计算每个簇的平均值。这个过程不断重