机器学习笔试题及答案.docx

机器学习笔试题及答案

一、选择题（每题5分，共30分）

下列关于过拟合的说法，错误的是（）

A.过拟合通常是模型过于复杂导致的

B.过拟合时模型在训练集上表现好，在测试集上表现差

C.增加训练数据量有助于缓解过拟合

D.降低模型复杂度会加剧过拟合

答案：D。解析：降低模型复杂度（如减少决策树深度、减少神经网络层数等）可以减少模型对训练数据噪声的拟合，从而缓解过拟合，而非加剧过拟合，故D错误；A、B、C表述均符合过拟合的特点。

在二分类问题中，若数据存在严重的类别不平衡（如正样本占比1%，负样本占比99%），此时更适合使用的评估指标是（）

A.准确率B.召回率C.精确率D.均方误差

答案：B。解析：准确率在类别不平衡时易失真（如全部预测为负样本，准确率也能达到99%）；均方误差适用于回归问题，不适用于分类问题；精确率关注预测为正的样本中实际为正的比例，召回率关注实际为正的样本中被正确预测的比例。类别不平衡时，通常更关注少数类（正样本）的识别情况，召回率更能反映模型对少数类的预测能力，故B正确。

下列算法中，属于无监督学习算法的是（）

A.逻辑回归B.K近邻（KNN）C.K均值聚类（K-Means）D.随机森林

答案：C。解析：逻辑回归、K近邻、随机森林均需利用带标签的训练数据进行学习，属于监督学习算法；K均值聚类无需标签，通过数据自身的相似性将数据分组，属于无监督学习算法，故C正确。

线性回归模型中，用于求解参数的常用方法是（）

A.梯度下降法B.决策树分裂法C.支持向量机最大化间隔D.贝叶斯推断

答案：A。解析：线性回归通过最小化均方误差损失函数求解参数，常用方法包括梯度下降法（迭代求解）和正规方程法；决策树分裂法用于决策树算法，支持向量机最大化间隔用于SVM算法，贝叶斯推断多用于概率模型参数估计，故A正确。

关于决策树算法，下列说法正确的是（）

A.决策树只能处理分类问题，不能处理回归问题

B.信息增益越大，说明特征对分类的贡献越小

C.决策树容易产生过拟合，可通过剪枝缓解

D.决策树的训练过程需要大量的迭代计算

答案：C。解析：决策树可同时处理分类（如分类决策树）和回归（如回归决策树）问题，A错误；信息增益越大，表明该特征能更好地划分数据，对分类的贡献越大，B错误；决策树若不加以限制，易生长过深，拟合训练数据噪声，产生过拟合，剪枝（预剪枝、后剪枝）可有效缓解，C正确；决策树训练过程是递归划分数据的过程，无需大量迭代计算，D错误。

下列关于集成学习的说法，正确的是（）

A.集成学习通过组合多个弱学习器，通常能获得比单个强学习器更好的性能

B.随机森林和AdaBoost的基学习器必须是决策树

C.集成学习的效果仅取决于基学习器的性能，与基学习器间的多样性无关

D.Bagging算法通过加权投票的方式组合基学习器的预测结果

答案：A。解析：集成学习的核心思想是“三个臭皮匠顶个诸葛亮”，组合多个弱学习器（性能略优于随机猜测）可降低方差或偏差，通常优于单个强学习器，A正确；随机森林基学习器多为决策树，但AdaBoost基学习器可是任意弱学习器（如逻辑回归、SVM等），B错误；集成学习效果依赖基学习器性能和多样性（多样性不足易导致集成结果与单个学习器差异小），C错误；Bagging通过简单投票（分类）或平均（回归）组合结果，加权投票是Boosting的常用组合方式，D错误。

二、简答题（每题10分，共40分）

请解释偏差（Bias）和方差（Variance）的概念，并说明它们与模型复杂度的关系。

答案：

偏差：指模型预测结果与真实值之间的平均差异，反映模型对数据的拟合能力。偏差大意味着模型没有充分学习到数据的规律（如用线性模型拟合非线性数据），易导致欠拟合。

方差：指模型在不同训练集上训练出的参数或预测结果的波动程度，反映模型对数据噪声的敏感程度。方差大意味着模型过度学习训练数据中的噪声（如复杂的神经网络在小数据集上训练），易导致过拟合。

与模型复杂度的关系：模型复杂度越低，偏差越大、方差越小（如线性模型，对不同训练集拟合结果差异小，但可能无法捕捉非线性规律）；模型复杂度越高，偏差越小、方差越大（如深度神经网络，能拟合复杂规律，但不同训练集可能导致参数大幅波动）。机器学习的核心目标之一是在偏差和方差之间寻找平衡，避免欠拟合和过拟合。

简述逻辑回归与线性回归的异同点。

答案：

相同点：

均属于参数化模型，需通过训练数据学习模型参数；

均基于线性函数构建（逻辑回归的输入是线性回归的输出）；

训练过程均通过最小化损失函数（线性回归用均方误差，逻辑回