数据挖掘课程设计报告.docxVIP

  • 2
  • 0
  • 约4.45千字
  • 约 6页
  • 2024-03-02 发布于辽宁
  • 举报

ID3算法的改进

摘要:本文基于ID3算法的原有思路,再把属性的重要性程度值纳入了属性选择的度量标准中,以期获得更适合实际应用的分类划分结果。

一、ID3算法的不足

ID3算法使用信息增益作为属性选择度量值,其倾向于选择具有大量值的属性,但没有考虑到属性在实际应用分类中的重要程度,因为依靠取信息熵最大的属性在现实情况中却并不那么重要,因此可能会得到不太有用的划分结果。举个简单的例子,在对淘宝用户行为进行分析时,尽管依据用户ID可以得到最大的信息增益,但是这并不符合分析的要求,因为,我们需要得到的是用户的购买行为,在分析中,我们会更多的考虑用户曾经浏览过的商品或者已经购买了的商品。在这个情景中,根据信息熵来度量属性的选择就不太合理,所以需要对其进行改进。

二、改进思路

本次设计中在属性选择上加入了属性重要程度值:因为采用信息增益的方法会倾向于选择拥有较多可能属性值的属性,为了弥补这一缺陷,所以在选择时就加入了属性的重要程度值。属性重要程度值考虑了属性在分裂数据中所处的地位。在处理数据的时候,会首先根据经验或需要判断出数据集合里面的属性值的重要程度,例如,在上面淘宝用户行为分析中,我们可能会人为的给予属性(“浏览过的商品”)最高重要程度值:0.8,而给属性(“用户ID”)较低的重要程度值:0.2。在明确了属性重要程度值以后,我们会在计算每个属性信息增益后将信

文档评论(0)

1亿VIP精品文档

相关文档