数据挖掘基本原理.课件.pptVIP

分类过程示意 训练集 分类学习 训练集 分类器 IF rank = ‘professor’ OR years 6 THEN tenured = ‘yes’ Jef is YES! 分类中的决策树（Decision Tree）归纳 决策树 类似于流程图的树型结构 内部节点代表对某个属性的一次测试 分支代表测试的输出结果 叶节点代表分类标签或分布 决策树的生成包括两个阶段 树的创建 首先, 所有训练样本都位于根节点 递归地基于选择属性来划分样本集 树的修剪 识别并删除那些反映噪声或孤立点的分支 应用决策树: 对未知样本进行分类 在决策树上测试样本的各个属性值 决策树示意 age? overcast student? credit rating? no yes fair excellent =30 40 no no yes yes yes 30..40 示例：是否购买计算机？ 聚类的基本概念 基本定义 将数据对象集划分成事先未知的分组或类别 聚类的原则：类内相似度高，类间相似度低 相似度一般为某种距离函数D(i,j) 聚类既可以作为独立分析工具考察数据分布结构，也可以作为其他分析方法的预处理步骤 很不幸，对聚类结果的评价一般都是主观的 基本分类 将数据对象集划分成事先未知的分组或类别 聚类示意 基于欧氏距离的三维空间中的聚类 A1 A2 B1 x y z 从算法到应用 数据挖掘的基本原理 TERADATA广州办事处 乔梁 2005年10月 报 告 内 容 数据挖掘的基本概念 数据挖掘的基本算法 数据挖掘实施方法论 总结与讨论 数据挖掘的基本概念 数据挖掘的基本算法 数据挖掘实施方法论 总结与讨论 改变未来世界的十大新兴技术 《Technology Review》（麻省理工学院2002年1月出刊） 机器与人脑的接口 塑胶晶体管 数据挖掘（Data Mining） 数字权利管理 生物测定学（Biometrics） 语言识别处理 微光学技术（Microphotonics） 解开程序代码（Untangling Code） 机器人设计 微应用流体学（Microfluidics） 什么是数据挖掘？ Data Information Knowledge Wisdom 存在太多数据挖掘的定义，但基本上有这样一种描述结构 To find / discover / extract / dredge / harvest 、、、 Interesting / novel / useful / implicit / actable / meaningful 、、、 Information / knowledge / patterns / trends / rules / anomalies 、、、 In massive data / large data set / large database / data warehouse 、、、 Data + context Information + rules Knowledge + experience 为什么会出现数据挖掘？ 数据爆炸性增长是数据挖掘技术应运而生的根本原因。 只见树木，不见森林（Drowning in data but starving for information） 计算复杂度 数据管理问题 数据类型的多样性 处理大容量数据是 数据挖掘技术区别 于其他数据分析方 法的唯一标志吗？ 其他数据分析方法：商业智能 E.F.Codd的数据分析模型 绝对模型（Categorical Model）：依据预定义路径寻找原因，如查询 解释模型（Exegetical Model）：依据多层次路径寻找原因，如多维分析 思考模型（Contemplative Model）：参数化路径，如场景分析 公式模型（Formulaic Model）：模型化路径，如数据挖掘 Reporting Ad Hoc Queries Predictive Modeling What happened ? Why did it happen ? What will happen ? ROI 应用复杂性 Stage 3 Stage 2 Stage 1 Human Discovery Machine-assisted Discovery 现象 ＝ 模型 ＋ 误差 数据挖掘寻找的是模型 ! 其他数据分析方法：统计学 从处理数据的角度看、、、 数据规模不同 数据来源不同：观测数据（Secondary Analysis） VS 试验数据（Primary Analysis） 数据类型不同（结构化数据、半结构化数据、非结构化数据） 从分析思想的角度看 更关注实证性分析（Empirical Analysis）而