常见的朴素贝叶斯法.ppt

图形绘制 图片处理 图表设计 典型案例 * 图形绘制 图片处理 图表设计 典型案例 * By 戴非凡 Date 2018.4.4 朴素贝叶斯分类法 图形绘制 图片处理 图表设计 典型案例 * 贝叶斯决策论 朴素贝叶斯分类器 半朴素贝叶斯分类器 西瓜程序 1 2 3 4 Contents Page 目录页 * 图形绘制 图片处理 图表设计 典型案例 * Transition Page 过渡页 * 贝叶斯决策论 朴素贝叶斯分类器 半朴素贝叶斯分类器 西瓜程序 1 2 3 4 图形绘制 朴素贝叶斯分类器 半朴素贝叶斯分类器 程序 * 贝叶斯决策论 1.1 贝叶斯决策论（Bayesian decision theory）是概率框架下实施决策的基本方法。 用p1(x,y)表示数据点(x,y)属于类别1(图中红色圆点表示的类别)的概率，用p2(x,y)表示数据点(x,y)属于类别2(图中蓝色三角形表示的类别)的概率，那么对于一个新数据点(x,y)，可以用下面的规则来判断它的类别： 如果p1(x,y) p2(x,y)，那么类别为1 如果p1(x,y) p2(x,y)，那么类别为2 贝叶斯决策理论核心思想：选择高概率对应的类别。 图形绘制 朴素贝叶斯分类器 半朴素贝叶斯分类器 程序 * 贝叶斯决策论 1.2 贝叶斯决策论还需了解： 1、条件概率：即B发生的情况下A发生的概率，用P(A|B)表示。 图形绘制 朴素贝叶斯分类器 半朴素贝叶斯分类器 程序 * 贝叶斯决策论 1.2 2、全概率公式：如果A和A’构成样本空间的一个划分，那么事件B的概率，就等于A和A’的概率分别乘以B对这两个事件的条件概率之和。 图形绘制 朴素贝叶斯分类器 半朴素贝叶斯分类器 程序 * 贝叶斯决策论 1.3 贝叶斯推断： ? 我们把P(A)称为”先验概率”（Prior probability），即在B事件发生之前，我们对A事件概率的一个判断。 ????P(A|B)称为”后验概率”（Posterior probability），即在B事件发生之后，我们对A事件概率的重新评估。 ????P(B|A)/P(B)称为”可能性函数”（Likelyhood），这是一个调整因子，使得预估概率更接近真实概率。 在1.1提到贝叶斯决策理论要求计算两个概率p1(x,y)和p2(x,y): 如果p1(x,y) p2(x,y)，那么类别为1 如果p1(x,y) p2(x,y)，那么类别为2 p1,p2即为后验概率p1(c1|x,y),p2(c2|x,y) 图形绘制 图片处理 图表设计 典型案例 * Transition Page 过渡页 * 贝叶斯决策论 朴素贝叶斯分类器 半朴素贝叶斯分类器 西瓜程序 1 2 3 4 贝叶斯决策论 图片处理 半朴素贝叶斯分类器 程序 * 朴素贝叶斯分类器 2.1 基于贝叶斯公式估计后验概率P(c|x)的主要困难在于： 类条件概率P(x|c)是所有属性上的联合概率，较难估计。为了避开这个障碍，提出了朴素贝叶斯分类器（na?ve Bayes classifier） “朴素”：采用属性条件独立性假设——假设用于分类的特征在类确定的条件下都是条件独立的。 贝叶斯决策论 图片处理 半朴素贝叶斯分类器 程序 * 朴素贝叶斯分类器 2.2 贝叶斯决策论 图片处理 半朴素贝叶斯分类器 程序 * 朴素贝叶斯分类器 2.3 For example： 数据集为： 测试集为： 青绿 蜷缩 浊响 清晰 凹陷 硬滑 0.697 0.460 ？ 是 贝叶斯决策论 图片处理 半朴素贝叶斯分类器 程序 * 朴素贝叶斯分类器 2.4 Python_programme: 朴素贝叶斯分类函数 图形绘制 图片处理 图表设计 典型案例 * Transition Page 过渡页 * 贝叶斯决策论 西瓜程序 1 4 朴素贝叶斯分类器 2 半朴素贝叶斯分类器 3 贝叶斯决策论 朴素贝叶斯分类器 程序 * 半朴素贝叶斯分类器 3.1 独 贝叶斯决策论 朴素贝叶斯分类器 程序 * 半朴素贝叶斯分类器 3.2 贝叶斯决策论 朴素贝叶斯分类器 程序 * 半朴素贝叶斯