数据挖掘第三章.pptVIP

逐步向前选择：该过程由空集作为规约集开始，确定原属性集中最好的属性，并将它添加到规约集中。在其后的每一次迭代，将剩下的原属性集中的最好的属性添加到该集合中。 逐步向后删除：该过程由整个属性集开始，在每一步中，删除尚在属性集中最差的属性。 逐步向前选择和逐步向后删除组合：两种方法组合，每一步选择一个最好的属性同时在剩余的属性中删除一个最差的属性。 决策树归纳：决策树归纳构造一个类似于流程图的结构，其中每个内部节点表示一个属性上的测试，每个分支对应测试的一个结果；每个外部节点表示一个类预测。在每个节点上，算法选择最好的属性，将数据划分成类。 现在你收集到了ALLElectronics2008-2010年每季度的销售数据组成。然而，你感兴趣的是年销售。于是对每年的销售聚集，形成年销售额。 2008年 季度 销售额 Q1 224000美元 Q2 408000美元 Q3 350000美元 Q4 586000美元 2009年 2010年 年 销售额 2008 1568000 2009 2356000 2010 3594000 3.2.3 数据清理作为一个过程 数据清理是一项繁重的任务，如何正确的进行这项工作？ 数据清理过程的第一步是偏差检测。 使用任何已知的关于数据性质的知识（也叫元数据）发现噪声、离群点和不寻常的值。 作为数据分析人员，应当警惕数据表示的不一致（如日期2010/12/25和25/12/2010） 字段过载是数据偏差的另一种来源（开发者将新属性的定义挤进已经定义的属性的未使用部分） 还应当根据唯一性、连续性规则和空值规则考察数据。 进行偏差检测的商业工具：数据清洗工具、数据审计工具、数据迁移工具、ETL（提取变换）工具。 标称数据的X2相关检验 对于标称数据，两个属性A和B之间的相关联系可以通过X2检验发现。假设A有c个不同值a1,a2,…,ac,B有r个不同值b1,b2,…,br.用A和B描述的数据元组可以用一个相依表显示，其中A中的c个值构成列，B的r个值构成行。（Ai,Bj）表示A取值ai、属性B取值bj的联合事件。 X2可以用下列公式计算： 其中，Oij是联合事件（Ai,Bj）的观测频度（即实际计数），而eij是（Ai,Bj）的期望频度，可以用下列式子计算： 其中，n是数据元组的个数，count(A=ai)是A上具有值ai的元组的个数，而count(B=bj)是B上具有值bj的元组个数。 注意，对卡方值贡献最大的单元是实际计数与期望计数很不相同的单元。 卡方统计检验假设A和B是独立的。具有自由度（r-1)*(c-1).如果拒绝该假设，则A和B是统计相关的。 例3.1 假设调查了1500个人，记录了每个人的性别。每个人对喜爱的阅读材料类型是否是小说进行投票。每种可能的联合事件的观测频率汇总在表中，其中（）中的数是期望频率。 男 女 合计 小说 250（90） 200（360） 450 非小说 50（210） 1000（840） 1050 合计 300 1200 1500 使用期望频度公式，我们可以验证每个单元的期望频率。例如，单元（男，小说）的期望频率是 使用计算卡方的公式，我们得到 对于这个2*2的表，自由度为（2-1）（2-1）=1.对于自由度为1，在0.001的置信水平下，拒绝假设值为10.828，由于我们计算的值大于该值，因此我们拒绝这两个属性独立的假设，并断言对于给定人群，这两个属性相关。 2.数值数据的相关系数 对于数值数据，我们可以计算属性A和B的相关系数，估计这两个属性的相关度rA,B 其中，n是元组的个数，ai和bi分别是元组i在A和B上的值， 和 分别是A和B的均值， 和 分别是A和B的标准差。 注意，-1≤rA,B ≤+1.如果rA,B 大于0，则A和B是正相关的，A随B的增加而增加。该值越大，相关性越强。因此，一个较高的rA,B 值表明A（B）可以作为冗余被删除。如果该值等于0，则A和B是独立的。如果小于0，则是负相关，A随B的增加而减小。 3.数值数据的协方差 考虑两个数值属性A、B和n次观测的集合{（a1，b1）,…,(an,bn)}.A和B的均值又分别称为A和B的期望值，即 且 ，那么A和B的协方差定义为 （3.4） 如果我们把rA,B的公式与（3.4）式组合，则有 还可以对（3.4）式进行简化 对于两个趋向于一起改变的属性A和B，如果A