决策树141118.pptx

Data Mining Tool －Decision Tree福建省粒计算及其应用重点实验室赵红2014年11月提要数据挖掘简介决策树的用途决策树的建立（ID3）C4.5示例Weka J48源码解析数据挖掘简介姓名年龄收入种族信誉电话地址加何种油张三234000亚裔良281-322Ave. MSupreme李四342800白人优713-239Holly CrRegular王二701900西班牙优281-242Bell Blvd.Plus赵五18900非洲良281-550-0544100 Main StreetSupreme刘兰342500白人优713-239-7430606 Holly CtRegular杨俊278900亚裔优281-355-7990233 Rice Blvd.Plus张毅389500亚裔优281-556-0544399 Sugar Rd.Regular……谁加何种类型的油？数据挖掘简介姓名年龄收入学生信誉电话地址邮编买计算机张三234000是良281-322Ave. M77388买李四342800否优713-239Holly Cr78766买王二701900否优281-242Bell Blvd.70244不买赵五18900是良281-550-0544100 Main Street70244买刘兰342500否优713-239-7430606 Holly Ct78566买杨俊278900否优281-355-7990233 Rice Blvd.70388不买张毅389500否优281-556-0544399 Sugar Rd.78244买……你能判定他/她买计算机的可能性大不大吗？数据挖掘简介我们拥有什么: Huge amount of data (GTE:1TB/day)我们需要什么: Information and knowledge我们应该怎么办:Data mining 数据挖掘10大算法ICDM 2006 Panel (会议的专题讨论)共有145人选出了数据挖掘10大算法。排名挖掘主题算法得票数发表时间作者陈述人1分类C4.5611993Quinlan, J.RHiroshi Motoda2聚类k-Means 601967MacQueen, J.BJoydeep Ghosh3统计学习SVM 581995Vapnik, V.NQiangYang4关联分析Apriori 521994Rakesh Agrawal Christos Faloutsos5统计学习EM482000McLachlan, GJoydeep Ghosh 6链接挖掘PageRank461998Brin, S.Christos Faloutsos7集装与推进AdaBoost451997Freund, Y.Zhi-Hua Zhou 8分类kNN451996Hastie, TVipin Kumar 9分类Na?ve Bayes452001Hand, D.JQiang Yang 10分类CART341984L.BreimanDan Steinberg 建立分类模型的一般方法决策树的用途计数年龄收入学生信誉归类：买计算机？64青高否良不买64青高否优不买128中高否良买60老中否良买64老低是良买64老低是优不买64中低是优买128青中否良不买64青低是良买132老中是良买64青中是优买32中中否优买32中高是良买63老中否优不买1 老中否优买新顾客（测试样例），你能帮助公司将这位客人归类吗？即：你能预测这位顾客是属于“买、不买”计算机的那一类？又：你需要多少有关这位客人的信息才能回答这个问题？年龄？青老中学生？买买买信誉？是否优良不买不买决策树的用途计数年龄收入学生信誉归类：买计算机？64青高否良不买64青高否优不买128中高否良买60老中否良买64老低是良买64老低是优不买64中低是优买128青中否良不买64青低是良买132老中是良买64青中是优买32中中否优买32中高是良买63老中否优不买1 老中否优买谁在买计算机？他/她会买计算机吗？收入？高低中学生？买买否是信誉？良优不买不买年龄？青中决策树的用途计数年龄收入学生信誉归类：买计算机？64青高否良不买64青高否优不买128中高否良买60老中否良买64老低是良买64老低是优不买64中低是优买128青中否良不买64青低是良买132老中是良买64青中是优买32中中否优买32中高是良买63老中否优不买1 老中否优买一棵很糟糕的决策树年龄？青老中学生？买买买信誉？是否优良不买不买决策树的用途什么是决策树A decision tree is a flow-chart-like tr