第七章01课件讲解.pptxVIP

第七章汇报人：人工智能专业使用朴素贝叶斯算法训练分类器

朴素贝叶斯算法的分类器原理PARTONE

3在机器学习中，分类任务就是预测某个样本属于某个类别的过程，预测时需要从已有的数据集中找到相关规律，然后根据规律进行判定。朴素贝叶斯算法找规律的原理是根据数据集中的已有数据得到先验概率，然后求解待测样本属于每个类别的后验概率，哪个类别概率高就将新样本判定为哪个类别。下面根据后验概率的公式，进一步进行推理。1．朴素贝叶斯算法的原理7.2.2朴素贝叶斯算法的原理与流程

4计算得到的结果中，哪个概率大，就将新样本划分为哪个类别。假设数据集中有1个特征和两个类别标签，特征用x表示，两个类别分别用和表示。则两个类别的先验概率分别为和，样本属于类别和的后验概率分别为1．朴素贝叶斯算法的原理7.2.2朴素贝叶斯算法的原理与流程

5现在，将数据集进行扩展，如果数据集中有多个特征（用，，，表示各特征）和多个类别标签（用表示某个类别）。那么，样本属于某个类别的后验概率为对于同一个数据集来说，每个类别的后验概率的分母都是相同的。因此，只需要比较分子的大小即可。1．朴素贝叶斯算法的原理7.2.2朴素贝叶斯算法的原理与流程

6可见，朴素贝叶斯算法是基于贝叶斯算法与特征条件独立假设的分类算法，其中“朴素”的含义就是假设所有特征之间相互独立。计算分子的值时，朴素贝叶斯算法做了一个假设，即数据集中所有特征相互独立，特征之间不存在依赖关系，因此下面的等式成立。而中每一项的值都可以从数据集的样本中获得，因此，可以计算出的值。1．朴素贝叶斯算法的原理7.2.2朴素贝叶斯算法的原理与流程

7使用朴素贝叶斯算法训练分类器的流程如下。（1）设为一个待分类样本，，，，为样本的特征。（2）有类别集合。（3）分别计算每个类别的后验概率，，，，即等价于计算，，，的值。（4）如果，则。2．朴素贝叶斯算法的流程7.2.2朴素贝叶斯算法的原理与流程

使用朴素贝叶斯预测猫狗分类（1）计算先验概率P(猫)=0.6，P(狗)=0.4训练数据集（1000）：猫（600），狗（400）待测样本特征：喵喵叫（2）计算不同类别中该 特征取值占比P(喵喵叫|猫)=500/600=0.9P(喵喵叫|狗)=10/400=0.025训练数据集（1000）：猫（600），狗（400）喵喵叫在猫类别有540条，在狗类别中有10条7.2.2朴素贝叶斯算法的原理与流程

使用朴素贝叶斯预测猫狗分类（3）后验概率比较P(猫|喵喵叫)=P(喵喵叫|猫)P(猫)/P(喵喵叫）P(狗|喵喵叫)=P(喵喵叫|狗)P(狗)/P(喵喵叫）P(喵喵叫|猫)P(猫)？P(喵喵叫|狗)P(狗)0.9×0.6=0.540.025×0.4=0.01P(猫|喵喵叫)概率更大，结果预测为猫7.2.2朴素贝叶斯算法的原理与流程

10客户编号年龄（岁）收入是否为学生信用是否购买平板电脑130高否一般否230高否好否330～40高否一般是440中等否一般是540低是一般是640低否好否730～40低是好是830中等是一般否930低是一般是1040中等是一般是1130中等是好是1230～40中等