数据挖掘课件-分类和预测.pptxVIP

数据挖掘;第7章分类和预测;分类:

通过学习一个分类模型（函数），按照数据对象的属性来预测该对象的分类标号

预测:

在训练样本的数据上，建立连续值预测模型（函数），按照输入对象的属性预测对应的取值

典型应用

气象、金融、图像处理等;数据分类是通常分为两个步骤;分类过程(1):模型建立;分类过程(2):在预测中使用模型;分类和预测的两个关键问题(1):数据准备;分类和预测的两个关键问题(2):分类方法评估;第7章分类和预测;用判定树实现归纳分类;age;输出:概念“buys_computer”的判定树;判定树归纳算法;Generate_decision_tree(samples,attribute)。由训练数据产生一棵判定树。

输入：训练样本samples候选属性的集合attribute_list。

输出：判定树。

Generate_decision_tree(samples,attribute_list)

(1)创建结点N；

(2)ifsamples都在同一个类Cthen

(3)returnN作为叶结点，以类C标记；

(4)ifattribut_list为空then

(5)returnN作为叶结点，标记为samples中最多实例的类；

(6)选择attribute_list中具有最高信息增益的属性best_attribute

(7)标记结点N为best_attribute；

(8)foreachai属于best_attribute

(9)由结点N长出一个条件为best_attribute=ai的分枝；

(10)si是samples中best_attribute=ai的样本的集合；

(11)Ifsi为空then

(12)加上一个树叶，标记为samples中最普遍的类；

(13)else加上Generate_decision_tree(si,{attribute_list–best_attribute})返回的结点；//递归调用;信息增益(ID3/C4.5);判定树归纳中的信息增益;通过信息增益的属性选择;由判定树提取分类规则;分类中避免过分适应数据问题;防止分类中的过分适应;判定树归纳算法的改进与完善(C4.5算法);第7章分类和预测;贝叶斯分类方法;贝叶斯定理;贝叶斯定理的应用：gooele的拼写检查;Google的解决方案

参考:/spell-correct.html

;具体计算方法;Bayes分类器设计;基于样本构建Bayes分类器;贝叶斯分类;朴素贝叶斯分类(I);朴素贝叶斯分类的计算方法;朴素贝叶斯分类(II);打网球实例:估计P(xi|C);打网球实例:分类X;36/63;37/63;38/63;39/63;40/63;41/63;42/63;43/63;贝叶斯信念网络(I);贝叶斯网络的优点;第7章分类和预测;BP神经网络;一种神经网络训练方法;??络训练;多层感知神经网络模型;第7章分类和预测;关联分类算法;Weka中利用Apriori算法来实现分类;;其它常用的分类方法;kNNclassifier;kNNclassifier;KNN分类的示意图;kNN;第7章分类和预测;线性回归分析的预测技术;线性回归、多元回归和非线性回归;预测:数值数据;预测:分类数据;分类法准确性:估计错误概率;分类法准确性:估计错误概率;EstimatingConfidenceIntervals:

ClassifierModelsM1vs.M2;EstimatingConfidenceIntervals:

NullHypothesis;EstimatingConfidenceIntervals:t-test;EstimatingConfidenceIntervals:

Tablefort-distribution;EstimatingConfidenceIntervals:

StatisticalSignificance;72;73;ModelSelection:ROCCurves;IssuesAffectingModelSelection;76;EnsembleMethods:IncreasingtheAccuracy;Bagging:BoostrapAggregation;Boosting;80;RandomForest(Breiman2001);ClassificationofClass-ImbalancedD