主流机器学习算法的数学原理推导与工程化实现.docxVIP

主流机器学习算法的数学原理推导与工程化实现

目录

一、基础数学工具与优化原理．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.1概率与统计学概念回顾．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.2矩阵运算核心公式及其几何解释．．．．．．．．．．．．．．．．．．．．．．．．．．5

1.3梯度下降法等优化策略的数学理论基础．．．．．．．．．．．．．．．．．．．．6

1.4KKT条件与约束优化问题求解．．．．．．．．．．．．．．．．．．．．．．．．．．．10

二、监督学习模型数学构建与求解．．．．．．．．．．．．．．．．．．．．．．．．．．．．13

2.1线性回归模型的理论导出与计算实现．．．．．．．．．．．．．．．．．．．．．13

2.2逻辑回归的sigmoid变换与最大似然估计策略．．．．．．．．．．．．．．17

2.3支持向量机．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．20

2.4决策树算法信息增益的计算原理与算法剪枝策略．．．．．．．．．．．22

2.5(/随机森林/Random_Forests)与集成学习方法的偏差-方差平衡

三、无监督学习与模型聚类分析．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．26

3.1(/K-means/K-Means)