流行机器学习算法原理推导与复杂度分析.docxVIP

流行机器学习算法原理推导与复杂度分析

目录

一、导论．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.1机器学习的目标与任务分类概览．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.2常见机器学习范式介绍．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．3

1.3训练集、验证集、测试集的角色与重要性．．．．．．．．．．．．．．．．．．．8

二、线性模型与优化基础．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．9

2.1(逻辑)回归问题．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．9

2.2分类任务．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．17

2.3正则化思想．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．21

2.4优化器选择．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．23

三、树模型．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．26

3.1决策树原理．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．