朴素贝叶斯及其改进算法在垃圾邮件过滤中的应用.docVIP

朴素贝叶斯及其改进算法在垃圾邮件过滤中的应用 　　摘 要：朴素贝叶斯模型在文本分类领域应用广泛，但因为算法本身的缺陷，分类性能有待提高。文章在传统的朴素贝叶斯模型的基础上，利用对数处理解决了算术下溢问题，使用拉普拉斯平滑解决了因训练集过小出现的零概率问题，并采用了系数加权的方法改善了朴素贝叶斯因假设所有条件都是独立的而导致的性能问题，进一步根据垃圾邮件过滤必须要有的查准率高的特点提出了阈值限定条件，最终训练的出的模型分类效果较传统的朴素贝叶斯模型有所提高，对垃圾邮件过滤模型的设计有一定的指导作用。 　　关键词：朴素贝叶斯；系数加权；阈值限定 　　中图分类号：TP393.0 文献标志码：A 文章编号：2095-2945（2018）20-0157-03 　　Abstract： Naive Bayesian model is widely used in the field of text classification， but the classification performance needs to be improved because of the defects of the algorithm itself. Based on the traditional naive Bayesian model， the problem of arithmetic underflow is solved by logarithmic processing， and the zero probability problem due to the small training set is solved by Laplacian Smoothing. The method of coefficient weighting is used to improve the performance of naive Bayes， which is caused by the assumption that all the conditions are independent. Furthermore， the threshold limit condition is proposed according to the characteristic of the high precision rate necessary for spam filtering. The classification effect of the final training model is improved compared with the traditional naive Bayes model， which can guide the design of spam filtering model. 　　Keywords： naive Bayes； coefficient weighting； threshold qualification 　　引言 　　随着互联网的发展，电子邮件的使用也越来越普及，但是电子邮件的安全性与可靠性却还有待提高。各种钓鱼邮件、垃圾邮件、骚扰邮件极大的影响了我们的日常生活，根我国网络不良与垃圾信息举报受理中心的统计，超过半数的用户会因为垃圾邮件而浪费时间、浪费资源，将近一半的用户则有可能因为垃圾邮件而遭受经济损失。可见，设计一个性能良好的垃圾邮件过滤器将有很重要的现实意义。 　　在文本分类领域，朴素贝叶斯模型有着重要的应用。得益于其简单有效，能够实现增量式计算且对缺失数据敏感度较低的优点，特别适合构建垃圾邮件的过滤模型，但由于其所假设的特征项之间的独立性，将会对最终的结果的准确率产生一定的影响，且未经平滑处理的贝叶斯模型在小数据集上容易出现较大的误差。本文将采用一种有阈值限制的条件的基于系数加权的改进贝叶斯模型，改善了传统贝叶斯模型的分类性能，实现对垃圾邮件的准确过滤。 　　1 朴素贝叶斯模型及相关原理 　　1.1 贝叶斯定理 　　贝叶斯定理是用于描述的是两个不同的事件A、B间，A为条件B发生的概率与B为条件A发生的概率之间的关系。贝叶斯公式可表示为： 　　其中P为事件发生的概率。利用贝叶斯定理来构造的决策方法是在所有相关概率都已知的情况下，考虑如何基于这些概率和可能的期望损失来选择最优分类的方法。现假?O有N种可能的类别{c1，c2，…，cN}，且存在样本x∈{x1，x2，…，xN}，需要将样本x分为相应的类别，则可以定义基于后验概率P（ci|x）将某一样本x分类为ci所产生的期望损失： 　　其中λij表示将真实类别为cj分类为ci所产生的损失。利用贝叶斯定理来分类的目标是：寻找能够最小化全局风险