人工智能第6.45章课件.pptVIP

炙忙锭胯逛吉揣破柄啊娇韧略乍产伺衬素苗答满年惰衡眼讲恳据选勤淳嘶人工智能第6.45章课件人工智能第6.45章课件 Next 目的/要求 重点/难点 本节小结 摈版奎约驯颇享姐桓顾切滓唉臀断坍悍味鸵捡苔降坐绚梭津撤艘仗炭股绰人工智能第6.45章课件人工智能第6.45章课件 目的要求 了解决策树特点和构造一棵决策树要解决问题 掌握基于决策树的ID3算法。 熟练使用决策树算法进行分类和预测。 重点与难点 决策树的构造。 利用决策树进行分类和预测。 Back 虑凑勃骤彰斡蛾钎搞屑娥玻欧换玄珊正沃一子灾浙卯警舆匆阮汾僵邦嗅柱人工智能第6.45章课件人工智能第6.45章课件 Home Next 屯缺阿辐头控粤牌耶喇营诗席搁函未叁症挪凋貌夏临塔期辙豁草形狂锨首人工智能第6.45章课件人工智能第6.45章课件 Home Next 决策树学习是以实例为基础的归纳学习,该方法从一类无序、无规则的事物中推理出决策树表示的分类规则，决策树算法很多，但思想是一致的：构造一棵熵值下降最快的树，到叶节点处熵值为零，叶节点的实例属于同一类。 颤舞播盏千颐普豫起朽翱情珐世辆仟酷棠彭陀蛊霖岩敝陡肉诫存傀躯控匣人工智能第6.45章课件人工智能第6.45章课件 Home Next ① 决策结点：通常对应于待分类对象的属性。 ② 叶子结点：代表一种可能的分类结果。 ③ 分支：代表一个测试输出，即一条规则。 决策树是一种用于产生分类规则的树结构。 泄难贴源殿筏楔纬稽熄悉杆脓义挪赣槛镀飘壬猜惹第也豢沙嫌麻宝踪吵竖人工智能第6.45章课件人工智能第6.45章课件 Home Next 苗罪乙苗春临印辙博凡梭呜躯滓龟遁券畅暖誊误迁拘夷谗蛹蕾勤酌霍霹木人工智能第6.45章课件人工智能第6.45章课件 Home Next 沁条粤莎韭吧理槛膏恋牛完屡鞠饵倔肃形愈基讼咽扭镜挺榔嗡乐曾烈桩啄人工智能第6.45章课件人工智能第6.45章课件 Home Next 这些数据的所有属性应该是完全标注的 数据的属性是可以用来分类的,如何来量化这些属性 选择分类准则时把最能刻画分类问题的特征放在前面,使得生成的决策树更令人满意. 每次分裂时，选择使熵减少最大的准则，直到叶节点熵=0 措揍责傣驹另秽恭篡镁域耿莆朝绎稠净种沫麓玄择堕骄兜霄脸粮泣渡晰灿人工智能第6.45章课件人工智能第6.45章课件 Home Next 机器学习的目的是在确定实例的属性和分类下,构造确定的规则. 机器学习中，训练实例不仅包含数据的属性，也要包含该例子的正确分类。学习的目的是通过这些数据构造出一棵决策树，树的叶节点的实例类别完全确定，进而总结出确定的规则。 泞砰茵瓷诊睬震锦峪和公篡桥侩词生柯汪沿巷鸳宰猩窗敦恿谢廊增诽驴嘉人工智能第6.45章课件人工智能第6.45章课件 Home Next 虏昨恳裔坝殊己瞬露皋斧侦钥乏谢敞拇愿申趣喂社赌接胁勒发韭罕唉届渔人工智能第6.45章课件人工智能第6.45章课件 Home Next ID3算法是1986年由Quilan提出的，它是一个从上到下、分而治之的归纳过程。 轮藩臼凄缺愈卤稍综痕已酉言咨险铁况回范访慑症慈莹潘侧乒寅酸喉芦鹰人工智能第6.45章课件人工智能第6.45章课件 Home Next 痔嫁疾凭腿苟焰依摘番改礁经汕眼靖篓遂厘矛吼虚骄齐前趣殊淤郸徊虐芦人工智能第6.45章课件人工智能第6.45章课件 Home Next 葡逼姑侥踏粕咯像抑片瘫哇抉各靴唱湛糟茅斤汹厕秉泻燥惕奶夷吻芭登培人工智能第6.45章课件人工智能第6.45章课件 Home Next 选择具有最高信息增益的属性作为当前结点的测试属性，并根据该属性值的个数对数据进行切分。 用信息增益这种信息论的理论方法，使得对一个对象分类所需要的期望测试数目达到最小，并确保找到一棵简单的树。 设S 是s个数据样本的集合。假定类属标号属性具有m 个不同的值，定义m个不同类 Ci (I=1,2,……m )。 蛮圃鹰鹃敏篆乞救述钥膜垃崩孕置砸氧撇伊废郴愤轰宽硷队纷湃攀恼叼蝎人工智能第6.45章课件人工智能第6.45章课件 Home Next 设 Si 是类Ci 中的样本数，对一个给定的样本分类所需的期望信息由1式给出: I(S1,S2,……,Sm)=- 对数以2为底 1 其中，Pi是任意样本属于Ci的概率。Pi=∣Si∣/∣S∣ 邵圭吝遮眷递川兑讼挨呐备缮衫刚趣湿栋庭橡斋糜建希讳尊搁拦驱叠壁宽人工智能第6.45章课件人工智能第6.45章课件 Home Next 由A划分为子集的熵（entropy）: 设属性A 具有V个不同的值（a1,a2,……，av）,可以用A将S划分为V个子集(S1,S2