贝叶斯原理.pptVIP

及朴素贝叶斯分析过程 贝叶斯原理 主要内容 论述贝叶斯原理 举例朴素贝叶斯分析过程 代码举例 前言 贝叶斯，英国数学家。他创立了贝叶斯统计理论，其中包括概率统计学原理，而它当中有一个重要理论，贝叶斯决策理论。 在不完全情报下，对部分未知的状态用主观概率估计，然后用贝叶斯公式对发生概率进行修正，最后再利用期望值和修正概率做出最优决策。 贝叶斯定理=贝叶斯公式 贝叶斯定理是概率论中的一个定理，这一定理可用一个数学公式来表达，这个公式就是著名的贝叶斯公式。 贝叶斯公式 P(A) 事件A发生的概率 先验概率 P(B) 事件B发生的概率 先验概率 P(A|B) 事件B发生的前提下，事件A发生的概率 后验概率 P(B|A) 事件A发生的前提下，事件B发生的概率 后验概率 通常，事件A在事件B(发生)的条件下的概率，与事件B在事件A的条件下的概率是不一样的；然而，这两者是有确定的关系,贝叶斯定理就是这种关系的陈述。 贝叶斯公式举例 一台癌症诊断仪坏了，如果患者确实患有癌症它的确诊率为90%，若果患者没有癌症，被诊断成癌症的概率为10%。如果一个人被这台诊断仪确诊成癌症， 这个人患有癌症的概率是多少？ 解：由贝叶斯公式 设 A： 机器癌症诊断 B1：病人是癌症患者 B2：病人不是癌症患者。 题可变为：P(A|B1) = 90%； P(A) = 90%*P(B1) + 10%*P(B2)=1 求P(B1|A)？ 贝叶斯公式举例 题： P(A|B1) = 90%； P(A) = 90%*P(B1) + 10%*P(B2)=1； 求P(B1|A)？ 解：P(B1|A) = P(B1)*90% / (90%*P(B1) + 10%*P(B2))； 得P(B1|A)=P(B1)*90% 其实就是把B换成A，A换成B1 朴素贝叶斯 朴素贝叶斯又称朴素贝叶 斯分类，以贝叶斯定理为基础 的一种分类算法，应用最为广 泛的分类算法之一。 朴素贝叶斯分类器 在统计资料的基础上，依据某些特征，计算各个类别的概率，从而实现分类。 朴素贝叶斯算法推导 假设某个体有n项特征（Feature），分别为F1、F2、...、Fn。现有m个类别（Category），分别为C1、C2、...、Cm。贝叶斯分类器就是计算出概率最大的那个分类，也就是求下面这个算式的最大值： P(C|F1F2...Fn) = P(F1F2...Fn|C)P(C) / P(F1F2...Fn) 朴素贝叶斯算法则是更进一步，假设所有特征都彼此独立，因此 P(F1F2...Fn|C)P(C) = P(F1|C)P(F2|C) ... P(Fn|C)P(C) P(F1F2...Fn|C)P(C) = P(F1|C)P(F2|C) ... P(Fn|C)P(C) 等号右边的每一项，都可以从统计资料中得到，由此就可以计算出每个类别对应的概率，从而找出最大概率的那个类。 虽然所有特征彼此独立这个假设，在现实中不太可能成立，但是它可以大大简化计算，而且有研究表明对分类结果的准确性影响不大。