第五讲modeler分类预测决策树算法(二).pptVIP

  • 8
  • 0
  • 约4.6千字
  • 约 32页
  • 2018-12-10 发布于浙江
  • 举报

第五讲modeler分类预测决策树算法(二).ppt

第五讲modeler分类预测决策树算法(二)

决策树算法的说明 第一,决策树算法在处理不同类型数据时的优势和劣势 数值型的优势和劣势 不受数量级的影响 忽略分布特征 分类型的优势和劣势 建树效率高 类别较多时,树太茂盛 容易处理“混合类型”的输入变量 决策树算法的说明 第二,决策树算法是面向单变量的 容易处理大量的变量 当需要同时兼顾考虑多个变量的联合分布时,无能为力 “贪婪”局部搜索方法:大多数树模型学习算法的首选 大规模的搜索空间(如所有可能的2叉树) 没有任何容易驾驭的方法可以找到唯一的最优树 第三,树结构的表示能力比较粗超 用于分类的决策区域局限为超矩形,且矩形的边局限于何输入变量坐标轴平行 分类预测:决策树算法 (二) 分类回归树 分类回归树(Classification And Regression Tree,CART)是由美国斯坦福大学和加州大学伯克利分校的Breiman等人于1984年提的 分类树和回归树 CART输入变量和输出变量可以是分类型也可以是数值型,C5.0中的输出变量只能是定类型 CART只能建立2叉树,而C5.0可以建立多叉树 CART以Gini系数和方差为基础选择最佳分组变量和分割点,而C5.0则是以信息增益率 CART依据检验样本集进行剪枝,而C5.0只依据训练样本集通过近似正态分布进行剪枝 树生长:分类树的生长 数值型输入变量: 找到使输出变量“异质性”下降最大的分割点 异质性测度:

文档评论(0)

1亿VIP精品文档

相关文档