(5.3)--5.3 节点分裂机器学习与模式识别.pptVIP

  • 6
  • 0
  • 约1.46千字
  • 约 20页
  • 2024-02-28 发布于陕西
  • 举报

(5.3)--5.3 节点分裂机器学习与模式识别.ppt

Splitting节点分裂(二)

CHAPTERTWO分裂准则SplitCriterion

二、分裂准则特征选择问题优化对象选择什么特征,???=?单个节点的分裂局部优化问题如何基于该特征进行节点分裂?评价特征好坏的依据:分裂后子节点的不纯度常用定量测量不纯度的指标信息增益信息增益比基尼指数

二、分裂准则信息增益M类的分类问题??信息熵:????

二、分裂准则信息增益以二分类为例,观察熵与概率的关系。??

二、分裂准则信息增益????????个子节点的加权平均经验熵????-

二、分裂准则信息增益——示例右表是一个信贷数据集,包含14个训练样例,三种属性;特征取值职业1-企业工作者2-个体经营户3-自由工作者4-事业单位5-体力劳动者教育1-硕士及以上2-本科3-专科4-高中及以下房贷1-有0-没有编号职业教育房贷是否借贷1510是2220是3210是4420是5110是6330是7140是8530是编号职业教育房贷是否借贷9311否10411否11110否12331否13211否14121否

二、分裂准则信息增益——示例节点经验熵:14人,8个是,6个否。?以职业特征进行节点分裂。多叉树:??编号职业教育房贷是否借贷1510是2220是3210是4420是5110是6330是7140是8530是9311否10411否11110否12331否13211否14121否

二、分裂准

文档评论(0)

1亿VIP精品文档

相关文档