【模式识别与人工智能】35-第五章-第三节-决策树-减枝处理.pptxVIP

第五章决策树-减枝处理模式识别与人工智能授课教师：栾声扬汇报人：皮雪玉

预剪枝1CONTENTS后剪枝2

PART01预剪枝

5.3.1预剪枝第三节减枝处理什么是剪枝处理？剪枝（Pruning）是决策树学习算法对付“过拟合”的主要手段。在决策树学习中，为了尽可能正确分类训练样本，结点划分过程将不断重复，有时会造成决策树分支过多。可通过主动去掉一些分支来降低过拟合的风险。预剪枝（Prepruning）决策树的剪枝策略后剪枝（Post-pruning）

预剪枝是在决策树生成过程中就采取一定措施来限制某些不必要的子树的生成。在决策树生成过程中，对每个结点划分前进行估计，若当前结点的划分不能提升泛化能力，则停止划分，记当前结点为叶结点。以西瓜数据为例，将其随机划分为两个部分，编号为的样例组成训练集，编号为的样例组成验证集。第三节减枝处理5.3.1预剪枝

西瓜数据集：表1西瓜数据集划分出的训练集编号色泽根蒂敲声纹理脐部触感好瓜1青绿蜷缩浊响清晰凹陷硬滑是2乌黑蜷缩沉闷清晰凹陷硬滑是3乌黑蜷缩浊响清晰凹陷硬滑是6青