机器学习原理与应用手册（执行版）.docxVIP

机器学习原理与应用手册（执行版）

第1章机器学习基础与核心概念

1.1统计学习与概率论基础回顾

概率论中的基本定义是机器学习理解不确定性的基石。在机器学习语境下，我们通常关注随机变量$X$的分布$P(X)$，其中$X$代表输入数据，$P(X)$描述了样本点的出现概率。例如，在二分类问题中，$P(Y=1)$代表正类样本的比例，而$P(Y=0)$代表负类样本的比例，这一分布决定了模型预测正类的概率分布。统计学习理论引入了贝叶斯公式$P(A|B)=\frac{P(B|A)P(A)}{P(B)}$来更新先验概率。在训练过程中，模型通过观察数据$D$来更新对参数