第4章 分类与预测.pdf

数据挖掘 第四章 分类与预测 数据库中隐藏着许多可以为商业、科研等活动的决策提供所需要的知识。分 类与预测是两种数据分析形式，它们可用于抽取能够描述重要数据集合或预测未 来数据趋势的模型。分类方法（ ）用于预测数据对象的离散类别 （ ）；而预测（ ）则用于预测数据对象的连续取值，如： 可以构造一个分类模型来对银行贷款进行风险评估（安全或危险）；也可建立一 个预测模型以利用顾客收入与职业（参数）预测其可能用于购买计算机设备的支 出大小。机器学习、专家系统、统计学和神经生物学等领域的研究人员已经提出 了许多具体的分类预测方法。最初的数据挖掘方法大多都是在这些方法及基于内 存基础上所构造的算法。目前数据挖掘方法都要求具有基于外存以处理大规模数 据集合能力且具有可扩展能力。 本章将要介绍决策树归纳方法、贝叶斯分类方法和贝叶斯信念网络等数据分 类方法。此外还要介绍 − 最近邻法、基于示例学习法、遗传算法等其它分类学 习方法。而所要介绍的预测方法包括：线性及非线性的回归模型等内容；此外还 包括这些方法的一些修改与完善以帮助实现对大规模数据进行分类与预测操作。 数据分类过程主要包含两个步骤：第一步第一步，如图- 所示，建立一个描述已 第一步第一步 知数据集类别或概念的模型；该模型是通过对数据库中各数据行内容的分析而获 得的。每一数据行都可认为是属于一个确定的数据类别，其类别值是由一个属性 描述（被称为类别标记属性）。分类学习方法所使用的数据集称为训练样本集合， 因此分类学习又可称为监督 学习（ ），它是在已知训练样本类 别情况下，通过学习建立相应模型；而无教师监督学习则是训练样本的类别与类 别个数均未知的情况下进行的。 通常分类学习所获得的模型可以表示为分类规则形式、决策树形式，或数学 公式形式。例如：给定一个顾客信用信息数据库，通过学习所获得的分类规则可 用于识别顾客是否是具有 良好的信用等级或一般 的信用等级。分类规则也可用于 对（今后 ）未知（所属类别）的数据进行识别判断 ，同时也可以帮助用户更好地 了解数据库中的内容。 第第二二步，如图步 - 所示，就是利用所获得的模型进行分类操作，首先对模型 第第二二步步 分类准确率进行估计，本章的最后将要介绍几种估计分类准确率的方法。 数据挖掘 第四章 分类与预测 方法就是一种 简单的估计方法。它利用一组带有类别的样本进行分类测试 （测试 样本随机获得且与训练样本相互独立）。对于一个给定数据集所构造出模型的准 确性可以通过 由该模型所正确分类的（测试 ）数据样本个数所 占总测试样本比例 得到。对于每一个测试样本，其已知的类别与学习所获模型的预测类别进行相比 较 。若模型的准确率是通过对学习数据集的测试所获得的，这样由于学习模型倾 向于过分逼近训练数据，从 而造成对模型测试准确率的估计过于乐观。因此需要 使用一个测试数据集来对学习所获模型的准确率进行测试工作。 姓名 年龄 收入 信用评估 汪明 低 一般 王敏 低 良好 分类算法 李勇