机器学习算法与实践 习题答案 郭羽含.docx

第一章

1．填空题

1）交叉，数学，统计学，计算机科学，信息论，优化理论，自动，通过经验

2）监督学习、无监督学习、半监督学习、强化学习；分类、回归、聚类、降维

3）分类，回归，聚类，数据预处理

4）简洁易读、高层次、解释性、可移植、丰富的库、面向对象、动态类型

2．简答题

1）简述机器学习的应用领域。

机器学习广泛应用于多个领域，包括：

金融：风险评估、欺诈检测、算法交易。

医疗：疾病预测、医学影像分析、个性化治疗。

广告：用户行为分析、推荐系统、精准营销。

自然语言处理：文本分类、情感分析、机器翻译。

计算机视觉：人脸识别、物体检测、图像分类。

自动驾驶：环境感知、路径规划、决策支持。

2）机器学习分类有哪些？

机器学习的分类主要有：

监督学习：利用带标签的数据进行训练，常见任务包括分类和回归。

无监督学习：使用无标签数据，主要用于聚类和降维。

半监督学习：结合少量标记数据和大量无标记数据进行训练。

强化学习：通过与环境的交互学习，最大化累积奖励。

3）简述机器学习的发展历史。

机器学习的发展历程可分为几个阶段：

1950s-1960s：早期探索，提出了感知机模型。

1980s：引入神经网络，发展出反向传播算法。

1990s：统计学习理论兴起，支持向量机(SVM)等方法被提出。

2000s：大数据和计算能力提升，深度学习开始得到重视。

2010s至今：深度学习取得突破，广泛应用于各行各业。

4）简述机器学习能在互联网搜索的哪些环节起作用？

在互联网搜索中，机器学习可以在以下环节起作用：

搜索结果排序：根据用户反馈和行为优化搜索结果的展示顺序。

推荐系统：根据用户历史搜索和偏好推荐相关内容。

自然语言处理：理解用户查询意图，提高搜索准确性。

图片和视频搜索：通过图像识别技术改善多媒体内容的搜索效果。

5）什么是监督学习、无监督学习和半监督学习？各自有哪些特点以及它们的区别？

监督学习：使用带标签的数据进行训练。特点是模型通过已知输入和输出学习映射关系，适用于分类和回归任务。

无监督学习：使用无标签的数据进行训练。特点是发现数据的潜在结构，如聚类和降维。

半监督学习：结合少量标记和大量无标记数据进行训练。特点是提升模型性能，特别是在标签获取困难的情况下。

区别：

监督学习依赖标签，无监督学习不依赖标签，半监督学习则是二者的结合。

6）机器学习与人工智能有什么关系和区别？

关系：机器学习是人工智能（AI）的一个子集，通过数据驱动的方法使机器具有学习能力，从而实现智能化。

区别：人工智能是一个更广泛的概念，涵盖所有使计算机具有人类智能特征的技术，包括规则系统、逻辑推理等，而机器学习专注于通过数据和算法让系统自我改进。

7）有哪些常见的Python库？

常见的Python库包括：

NumPy：用于科学计算和数组操作。

Pandas：数据处理和分析。

Matplotlib：数据可视化。

Scikit-learn：机器学习算法和工具。

TensorFlow和Keras：深度学习框架。

PyTorch：另一种流行的深度学习框架。

Statsmodels：统计建模和计量经济学。

第二章

1．填空题

训练集、验证集、测试集、

网格搜索、随机搜索、贝叶斯优化

留出法、交叉验证、自助法

2．简答题

1）过拟合和欠拟合的含义、产生原因及解决方法

过拟合：

含义：模型在训练集上表现很好，但在测试集或新数据上表现不佳，说明模型学习到了训练数据中的噪声和细节，而不是数据的普遍规律。

产生原因：模型复杂度过高（例如，使用了太多的参数或层次）、训练数据量不足、缺乏正则化等。

解决方法：减少模型复杂度（例如，使用更简单的模型）、增加训练数据、使用正则化技术（如L1、L2正则化）、使用交叉验证等。

欠拟合：

含义：模型在训练集和测试集上都表现不佳，无法捕捉到数据中的基本模式。

产生原因：模型复杂度过低（例如，使用了线性模型去拟合高度非线性的数据）、特征选择不当等。

解决方法：增加模型复杂度（例如，使用更复杂的模型）、进行特征工程、增加更多相关的特征等。

2）数据集划分的估算

这是一个排列组合问题，在保持样本均衡的前提下，正例和反例在训练和测试集中的数量相同，即在训练集中应该包括1750个正例和1750个反例，剩余的作测试集，那么划分方式应该有x2500

3）错误率与ROC曲线的联系

错误率是指分类模型预测错误的样本占总样本的比例。错误率可以简洁地表示模型的整体性能，但它并没有考虑不同类别之间的分类能力差异。

ROC曲线（接收者操作特征曲线）则通过不同的阈值描绘出真正率（TPR）与假正率（FPR）的关系。ROC曲线提供了一个更全面的视角，能够展示模型在不同决策阈值下的性能。

联系：

ROC曲线下的面积（AUC）可以作为模型性能的一个重要指标，通常比单一的错误