1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 计算机
  5. 数据结构与算法

信息增益与ID3算法在决策树中应用.pdfVIP

  • 1
  • 0
  • 约9千字
  • 约 10页
  • 2026-05-20 发布于北京
  • 举报

信息增益与ID3算法在决策树中应用.pdf

    决策树

    DesicisionTree

    1

    信息增益

    目录2

    ID3算法

    信息增益

    InformationGain

    信息增益(也叫互信息，mutualinformation)，定义如下：

    g(D,A)H(D)−H(D|A)其中D是训练数据集，A是某个特征

    根据信息增益准则的特征选择方法是：

    1、对训练数据集（或子集）D，计算其每个特征的信息增益

    2、比较它们的大小，选择信息增益最大的特征

    信息增益

    InformationGain

    信息增益算法：

    1、计算数据集D的经验熵H(D)：

    k|C||C|

    H(D)−klog

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >