清华社课件人工智能导论第3章 机器学习基础.pptxVIP

第三章机器学习基础

经典统计学习

3回顾：AI学习三要素模型（Model）用什么函数描述规律，例如线性模型、树模型、神经网络。数据（Data）从样本中学习规律，可以是有标签数据，也可以是无标签数据。目标（Objective）通过损失函数衡量好坏，训练时追求经验风险小，测试时追求泛化能力强。

4机器学习深度学习强调表示学习和端到端建模统计学习从有限样本中学习规律，关注模型、损失和泛化强化学习强调与环境交互，通过奖励学习策略本节聚焦经典统计学习——理论清晰、可解释性强，是后续深度学习的重要基础。

5逻辑回归从线性回归到逻辑回归线性组合Sigmoid映射概率输出线性回归逻辑回归输出类型连续值概率值任务类型回归分类损失函数均方误差交叉熵

6逻辑回归?基本思想：用概率描述二分类结果。名称里有“回归”,本质上却是分类模型。概率范围：(0,1)

7Sigmoid函数?Sigmoid函数是逻辑回归把“分数”变成“概率”的关键一步。

8逻辑回归决策边界：

最优分界面最大间隔9支持向量机逻辑回归关注概率输出，SVM强调找到分类间隔最大的分界面目标：找到能够正确分类样本的分界线关键思想：要尽量“分得开”最大间隔可分

10支持向量机超平面：用于划分类别的决策边界间隔：超平面到最近样本的距离支持向量：恰好落在间隔边界附近，决定分类面的关键样本真正决定SVM边界位置的，是离边界最近的那些样本。超平面最大间