- 13
- 0
- 约1.18千字
- 约 13页
- 2024-02-28 发布于陕西
- 举报
StoppingandPruning终止与剪枝
CHAPTERONE终止Stopping
一、终止分裂终止条件无需分裂当前节点内样本同属一类无法分裂当前节点内所有样本的特征向量完全相同采用任何特征都无法将当前样本集分为多个子类无数据可分当前节点内没有样本已达到的分解目标。?
CHAPTERTWO剪枝Pruning
二、剪枝过拟合与正则化(三)决策树过拟合的表象决策树的规模过大,导致模型容量激增;决策树过拟合的内在原因终止条件苛刻——决策树较深基于离散属性的分裂算法——子节点较多、单节点数据变少正则化思路泛化性能估计节点数据数量小,分裂结果随机性大;考虑决策树结构考虑决策树生成过拟合剪枝
二、剪枝剪枝问题剪枝原因决策树的生成过程只考虑在训练数据上的性能单纯依赖生长算法的决策树模型容量较大,容易过拟合。剪枝算法删去某些节点,简化决策树结构。满足树状结构;减去哪些节点;提高泛化性能解决优化问题的核心要素目标函数设计优化策略设计有约束的离散优化问题泛化能力难以保证
二、剪枝损失函数考虑因素决策树在训练数据上的性能模型容量损失函数|??|表示决策树所有叶子节点的数量。其中是第??个叶子节点的样本类标签集合,;??与叶子节点有关?经验损失结构风险??叶子节点数量所
您可能关注的文档
最近下载
- 航空安全员面试指南.pptx VIP
- 诺蒂菲尔NFS2-3030培训.pdf
- 《中国人民财产保险股份有限公司农业保险承保理赔指引》.doc
- J B∕T 4323-2019 水基金属清洗剂.pdf VIP
- 七年级初中语文阅读理解专项练习题及答案资料及答案带解析答题技巧.pdf VIP
- (2027)《余华第七天》读书分享PPT课件.pptx VIP
- 钢结构车载停车棚工程施工组织设计.docx VIP
- 2025年苏教版高中二年级地理火山喷发创新专题试卷及解析.docx VIP
- 2025年无人机驾驶员执照应急培训效果评估专题试卷及解析.pdf VIP
- 2025年AWS认证RDS多可用区部署与数据库负载均衡专题试卷及解析.pdf VIP
原创力文档

文档评论(0)