基于Hadoop的分布式朴素贝叶斯文本分类.pdfVIP

计 算 机 系 统 应 用 2012 年 第 21 卷 第 2 期 ① 基于Hadoop 的分布式朴素贝叶斯文本分类 卫 洁，石洪波，冀素琴 ( 山西财经大学 信息管理学院，太原 030006) 摘 要：云计算的诞生，有效地解决了海量数据集的存储和分析处理。在云计算实现的开源Hadoop 分布式系统 集群上，使用 MapReduce 并行编程模型，设计并实现了一种对 TFIDF 改进的分布式朴素贝叶斯文本分类算法。 实验结果表明，基于 Hadoop 框架的分布式朴素贝叶斯文本自动分类器不仅能处理节点失效，同时具有高效性和 易扩展性的优势。 关键词：Hadoop ；朴素贝叶斯；MapReduce ；文本分类 Distributed Naive Bayes Text Classification Using Hadoop WEI Jie, SHI Hong-Bo, JI Su-Qin (Faculty of Information Management, Shanxi University of Finance Economics, Taiyuan 030006, China) Abstract: The emergence of the cloud computing has resolved the difficult of storing the abundant data and analysing data processing effectively. Based on the Hadoop open-source implementation, the cloud computing clusters distributable systems. Meanwhile, the usage of MapReduce parallel programming model has implemented a modified distribution on TFIDF Naive Bayes text classification algorithm. The experimental results show that improved TFIDF has chosen this unique method. The Distributed Hadoop framework has based on Bayes text which classifies automatically. This new achievement can not only handle the failure of nodes, but also possess high reliability and much more scalable advantages. Key words ：Hadoop; naive bayes; MapReduce; text classification 随着 Inernet 数据规模的急剧增加、应用类型的巨 (SVM) 、K 最近邻(KNN) 、神经网络和朴素贝叶斯 大丰富，海量数据的存储和分析处理给传统的系统框 (Bayes)等。其中朴素贝叶斯文本分类器以简单、高效 架带来重大的挑战，正所谓“算法再好，通常也难敌更 成为焦点，它基于朴素贝叶斯的概率密度函数，描述 多的数据”，在这种巨大潮流和趋势的推动下，云计算 分类系统中条件属性和分类属性之间的映射关系，较 应运而生。Hadoop[1,3]作为云计算的实现解决了 TB 级 其他分类算法时间复杂度低、效率高。而朴素贝叶斯 以上数据集的存储、分析和学习问题，它是 Apache 文本分类中属性条件概率的计算是关键，直接影响着 组织的一个开源的分布式系统架构，广泛的运行于多 分类器的性能，一般常用的计算方法是 TFIDF 算法， 种平台，有着低成本、可扩展性、可伸缩性、高效性、 近年来，诸多