朴素贝叶斯分类器及r语言实现_光环大数据培训机构.pdfVIP

光环大数据--大数据培训人工智能培训 朴素贝叶斯分类器及 R 语言实现_光环大数据培训机构 朴素贝叶斯算法仍然是流行的十大挖掘算法之一，该算法是有监督的学习算 法，解决的是分类问题，如客户是否流失、是否值得投资、信用等级评定等多分 类问题。该算法的优点在于简单易懂、学习效率高、在某些领域的分类问题中能 够与决策树、神经网络相媲美。但由于该算法以自变量之间的独立（条件特征独 立）性和连续变量的正态性假设为前提，就会导致算法精度在某种程度上受影响。 接下来我们就详细介绍该算法的知识点及实际应用。 朴素贝叶斯的思想 思想很简单，就是根据某些个先验概率计算 Y 变量属于某个类别的后验概率， 请看下图细细道来： 假如，上表中的信息反映的是某 P2P 企业判断其客户是否会流失(churn)， 而影响到该变量的因素包含年龄、性别、收入、教育水平、消费频次、支持。那 根据这样一个信息，我该如何理解朴素贝叶斯的思想呢？再来看一下朴素贝叶斯 公式： 从公式中可知，如果要计算 X 条件下 Y 发生的概率，只需要计算出后面等式 的三个部分，X 事件的概率（P(X)），是X 的先验概率、Y 属于某类的概率（P(Y)）， 是 Y 的先验概率、以及已知Y 的某个分类下，事件X 的概率（P(X|Y)），是后验 概率。从上表中，是可以计算这三种概率值的。即： P(x)指在所有客户集中，某位 22 岁的本科女性客户，其月收入为 7800 元， 在 12 次消费中合计支出 4000 元的概率； P(Y)指流失与不流失在所有客户集中的比例； 光环大数据 光环大数据--大数据培训人工智能培训 P(X|Y)指在已知流失的情况下，一位 22 岁的本科女性客户，其月收入为 7800 元，在 12 次消费中合计支出 4000 元的概率。 如果要确定某个样本归属于哪一类，则需要计算出归属不同类的概率，再从 中挑选出最大的概率。 我们把上面的贝叶斯公式写出这样，也许你能更好的理解： 而这个公式告诉我们，需要计算最大的后验概率，只需要计算出分子的最大 值即可，而不同水平的概率 P(C)非常容易获得，故难点就在于 P(X|C)的概率计 算。而问题的解决，正是聪明之处，即贝叶斯假设变量 X 间是条件独立的，故而 P(X|C)的概率就可以计算为： 也许，这个公式你不明白，我们举个例子（上表的数据）说明就很容易懂了。 对于离散情况： 假设已知某个客户流失的情况下，其性别为女，教育水平为本科的概率： 上式结果中的分母 4 为数据集中流失有 4 条观测，分子 2 分别是流失的前提 下，女性 2 名，本科 2 名。 假设已知某个客户未流失的情况下，其性别为女，教育水平为本科的概率 上式结果中的分母 3 为数据集中未流失的观测数，分子 2 分别是未流失的前 提下，女性 2 名，本科 2 名。 光环大数据 光环大数据--大数据培训人工智能培训 从而 P(C|X)公式中的分子结果为： 对于连续变量的情况就稍微复杂一点，并非计算频率这么简单，而是假设该 连续变量服从正态分布（即使很多数据并不满足这个条件），先来看一下正态分 布的密度函数： 要计算连续变量中某个数值的概率，只需要已知该变量的均值和标准差，再 将该数值带入到上面的公式即可。 有关朴素贝叶斯分类器的理论部分就讲解到这里，希望读者能够理解，如果 您还有不明白的地方可以给我留言。接下来我们就看一下，在 R 语言中，是如何 实现朴素贝叶斯算法的落地的。 R 语言函数简介 R 语言中的 klaR 包就提供了朴素贝叶斯算法实现的函数 NaiveBayes，我们 来看一下该函数的用法及参数含义： NaiveBayes(formula, data, „, subset, na.action= na.pass) NaiveBayes(x, grouping, prior, useke