机器学习 教案 庞俊彪 第14次课---第35次课 决策树---深度神经网络基础.docx

《机器学习》教案

《机器学习》教案

适用专业：机器人、人工智能

教学年度：

教学班级：

授课教师

课程名称

授课地点

授课时间

第14次

章节题目

决策树

教学目的

模型加速能力是重要的手段也是推向模型进化的主要原因

教学重点

剪枝的可能性和本质

教学难点

理解剪枝的可能性和本质

教学方法

启发式，案例

教具

多媒体，程序运行结果，黑板板书

案例设计

用例子讲解计算过程

教学内容

决策树预剪枝

决策树的参数包括：树的深度，叶节点内的最小样本数、和信息增益阈值；

预剪枝观点是等到决策树完全生长完成再剪枝不如预先完成；预剪枝能减少计算量；

决策树悲观剪枝

悲观剪枝的条件是我们没有验证集的情况下，我们可利用置信区间的概念进行剪枝；

剪枝前后，决策树的期望错误率不超过预定义的一个阈值；

期望错误率的建模过程用二项式分布，即用二项式分布来描述落入一个节点内样本点数量；

二项式分布难以计算可以用高斯分布进行近似；

能用悲观剪枝进行决策树剪枝代码实现；

决策树代价复杂度剪枝

复杂度剪枝是既能描述分类准确性又能描述决策树复杂度的指标；

准确性的描述用分类错误率而决策树复杂度用叶结点数量；

利用最优子决策树序列的嵌套性贪心的计算复杂度剪枝的指标；

教学过程

1.讲解剪枝与过拟合的关系

2.