西瓜书-机器学习(学习笔记).pdfVIP

西瓜书-机器学习(学习笔记) 目录 西瓜书-机器学习(学习笔记) 1 机器学习+西瓜书笔记第2章【贝叶斯分类器】 2 机器学习之【提升方法】 7 机器学习之【最大熵模型】 18 机器学习之【蒙特卡罗法】 30 机器学习笔记第1章【机器学习导论】 35 西瓜书学习笔记第1章（绪论）机器学习 41 西瓜书学习笔记第2章（模型评估与选择） 49 西瓜书学习笔记第3章（线性模型） 64 西瓜书学习笔记第4章（决策树） 76 西瓜书学习笔记第5章【神经网络】 90 西瓜书学习笔记第6章【支持向量机】 120 机器学习+西瓜书笔记第2章【贝叶斯分类器】 机器学习+西瓜书笔记第2章【贝叶斯分类器】 机器学习笔记第2章【贝叶斯分类器】 一、贝叶斯决策论 1.相关知识补充 2.生成模型与判别模型 贝叶斯公式： 实际上，分母为全概率公式，分子为联合概率。在机器学习中，更常见的形式为 贝叶斯公式的作用在于将P(B|A)的估计转化为估计P(A|B)和P(B) 一、贝叶斯决策论 第 1 页 /共 141 页 机器学习+西瓜书笔记第2章【贝叶斯分类器】 第 2 页 /共 141 页 机器学习+西瓜书笔记第2章【贝叶斯分类器】 注：由式(7.7)可知，因为证据因子P(x)只与样本本身有关，与类标记无关，故有maxP(c∣x)等价 于maxP(x,c) 于是，估计似然P(c∣x)的问题就转化为如何基于训练数据D来估计先验概率P和似然P(x∣c)。 对于似然P(x∣c)，由于它涉及关于x所有属性的联合概率，故使用频率来估计P(x∣c)是不可行 的，因为训练集不能保证其所有的样本能观测到所有属性，而 “未观测到的” 与运用频率估计 其 “出现概率为0” 是 不同的。 1.相关知识补充 x：给定的样本 c：类标记 P(c )：类“先验”概率，表达了样本空间中各类样本所占的比例。 P(c|x)：后验概率 P(x|c)：样本x相对于类标记c的类条件概率，或称为似然 第 3 页 /共 141 页 机器学习+西瓜书笔记第2章【贝叶斯分类器】 P(x)：用于归一化的证据因子 2.生成模型与判别模型 第 4 页 /共 141 页 机器学习+西瓜书笔记第2章【贝叶斯分类器】 待补充。。。 参考链接