机器学习方法及应用（第二版）课后习题-第2-3-5章.docx

第二章课后习题答案

1．试解释决策树学习算法。举例计算表2-2中信息熵和信息增益。

答：决策树学习是一种基于树结构的归纳学习方法，通过从根结点开始，选择最优属性对样本进行划分，递归构建决策树，用于分类或回归任务。其关键在于选择划分属性，常用准则有信息增益（ID3）、增益率（C4.5）和基尼指数（CART）。

以表2-2西瓜数据集为例：

根结点信息熵：Ent(D)=0.998

属性“色泽”的信息增益：Gain(D,

属性“纹理”的信息增益最大，为0.381，因此被选为根结点的划分属性。

2．编程实现ID3算法，并根据表2-2中所给训练数据，利用ID3算法生成决策树。

答：Python实现可使用s