数据挖掘课程教学课件第六章分类和预测.pptVIP

* MK Oct 2009: I removed “neuron = perceptron” from title since we do not use that term in the book. * MK: Note – different notation than used in book. Will have to standardize notation. * * * * * * * * * * * * * * 分类器评估度量: 准确率和误差率 * Actual class\Predicted class C1 ~C1 C1 True Positives (TP) False Negatives (FN) ~C1 False Positives (FP) True Negatives (TN) 分类器的正确率或识别率：被正确分类的测试元组占测试元组总数的百分比 混淆矩阵: 错误率: 1 – accuracy, or * 分类器评估度量: 混淆矩阵的例子 Actual class\Predicted class buy_computer = yes buy_computer = no Total Recognition(%) buy_computer = yes 6954 46 7000 99.34 buy_computer = no 412 2588 3000 86.27 Total 7366 2634 10000 95.42 给定 m 个类, 混淆矩阵至少是m*m的表，CMi,j 表示类i用分类器分到类j的元组数。 附加的行或列，可以提供每个类的合计或识别率 * 分类器评估度量: 灵敏性和特效性 类不平衡问题: 某一个类可能比较稀少, 比如：诈骗检测 显著多数的负类和少数的正类 灵敏性: 真正（识别）率, 特效性: 真负（识别）率, * 分类器评估度量: 准确率和召回率 Precision: 正确性 – what % of tuples that the classifier labeled as positive are actually positive? Recall: 完整性 – what % of positive tuples did the classifier label as positive? Perfect score is 1.0 precision recall之间是相反的关系 * 分类器评估度量: 例子 Actual class\Predicted class cancer = yes cancer = no Total Recognition(%) cancer = yes 90 210 300 30.00 sensitivity cancer = no 140 9560 9700 98.56 specificity Total 230 9770 10000 96.40 accuracy Precision = 90/230 = 39.13%; Recall = 90/300 = 30.00% 分类和预测 * 什么是分类？什么是预测？ 关于分类和预测的问题 用决策树归纳分类 贝叶斯分类 基于规则的分类 用后向传播分类 支持向量机 其它分类方法 预测 准确率和误差的度量 评估分类器或预测器的准确率 小结 评估分类法的准确率 * 保持 使用两个独立的数据集,例如,训练集(2/3),测试集(1/3) 用于具有大数量样本的数据集 交叉确认 把数据集分成k个子样本集 使用k-1子样本集作为训练数据,一个子样本作为测试数据k-折交叉确认 适用于具有中等大小的数据集 自助（bootstrapping）和留一（leave-one-out） “自助”使用一致的、带放回的选样，选取给定的训练实例 “留一”为k-折交叉确认 适用于小数量的数据 小结 * 分类和预测是两种数据分析形式，可以用来提取模型，描述重要数据类或预测未来的数据趋势。 分类预测分类标号，预测建立连续值函数模型。 分类方法 决策树分类 贝叶斯分类 后向传播分类 支持向量机 惰性学习法 。。。 预测方法 回归 分类和预测的评估方法 参考文献 * C. Apteand S. Weiss. Data mining with decision trees and decision rules. Future Generation Computer Systems, 13, 1997. L. Breiman, J. Friedman, R. Olshen, and C. S