周志华版《机器学习》第二章 课后习题参考解答.pdfVIP

周志华版《机器学习》第二章课后习题

参考解答

2.1留出法划分方式估算

解题思路

留出法需满足训练集与测试集类别分布一致（分层抽样），避免因类别偏差影响评估结果。核

心是计算“正例中选训练集样本数”与“反例中选训练集样本数”的组合数乘积。

详细解答

1.确定样本分配数量

1000500500

总样本：个（正例，反例）

训练集占比70%：正例需选500\times70\%350个，反例需选500\times70\%350个

测试集占比30%：正例剩余150个，反例剩余150个

2.计算组合数

从500个正例中选350个的方式数为组合数C_{500}^{350}，从500个反例中选350个的方

式数也为C_{500}^{350}。

由于正例与反例的选择相互独立，总划分方式数为：

\text{总方式数}C_{500}^{350}\timesC_{500}^{350}

\left(C_{500}^{150}\right)^2

（注：组合数性质C_n^kC_n^{n-k}，故C_{500}^{350}C_{500}^{150}）

1.结论

实际计算中无需展开具体数值，核心是通过分层抽样保证类别分布，避免简单随机抽样导致的

训练集测试集类别失衡。/

2.210折交叉验证与留一法的错误率评估

解题思路

根据题意，学习器的预测规则为：

•若训练集中正例数反例数：预测为正例

•若训练集中反例数正例数：预测为反例

•若数量相等：随机猜测（错误率50%）

需分别分析10折交叉验证和留一法下的训练集类别分布，进而计算错误率。

详细解答

1.数据集基础信息

总样本：100个（正例50，反例50）

2.10折交叉验证法

◦划分方式：将100个样本均匀分为10组，每组10个样本（按分层抽样，每组含5正

5

例、反例）。

◦训练集构成：每次用9组（90个样本）训练，含9\times545正例、45反例，正

例数反例数。

◦预测规则：随机猜测，错误率为50%。

◦结论：10折交叉验证的错误率评估结果为50%。

1.LOO

留一法（）

◦划分方式：每次留1个样本作为测试集，剩余99个作为训练集。

◦训练集类别分布分析：

▪若测试集为正例：训练集含49正例、50反例（反例数正例数），学习器预测

为反例→测试正例被误判，错误。

▪5049

若测试集为反例：训练集含正例、反例（正例数反例数），学习器预测

为正例→测试反例被误判，错误。

◦100100/100100\%

错误率计算：次测试全部错误，错误率为。

◦结论：留一法的错误率评估结果为100%。

2.3AUC与BEP的关系分析

解题思路

•AUC（ROC曲线下面积）：衡量学习器在所有可能阈值下的整体性能，反映“区分正/负

例的能力”。

•BEPPR

（平衡点）：（查准率）（查全率）时的性能点，仅反映某一特定阈值下的性

能。

需通过“不同ROC曲线的AUC与BEP对比”说明二者无必然正相关。

详细解答

A的AUC比B高，不能推出A的BEP也比B高，原因如下：

1.AUC与BEP的评价角度差异

◦AUC是ROC曲线的全局积分，涵盖所有阈值下的FPR（假正例率）与TPR（真正例

率）组合，反映整体区分能力。

◦BEP是P-R曲线中的一个特定点（PR），仅依赖该阈值下的TP、FP、FN数量，

受局部性能影响更大。

1.反例说明

假设：

◦学习器A的ROC曲线：在高FPR区域（如FPR0.6）TPR增长快，低FPR区域