基于朴素贝叶斯的Web文本分类及其应用.docVIP

基于朴素贝叶斯的Web文本分类及其应用 　　摘要：Web文本分类在网络信息过滤、信息推荐等方面有广泛的应用。介绍了Web文本分类的基本理论与方法，结合贝叶斯分类算法，对文本分类语料库的数据进行具体的分类实验并进行分析讨论，取得了一定的效果。 　　关键词：数据挖掘；朴素贝叶斯；文本分类 　　中图分类号：TP391 文献标识码：A 文章编号：1009-3044（2016）30-0220-02 　　Web Text Classification and its Application Based on Na?ve Bayesian 　　BAO Xiao-bing 　　（Chizhou College Department of Mathematics and Computer Science，Chizhou 247000，China） 　　Abstract：Web text classification has been widely used in network information filtering， information recommendation and so on.Introduces the basic theory and method of Web text classification，The data of the text classification corpus are classified and analyzed with Bayesian classification algorithm，Achieved a certain effect. 　　Keywords：Data mining； Na?ve Bayesian；Text classification 　　?S着计算机以及互联网技术的快速发展，对于拥有海量数据的网络世界，蕴含着巨大潜在价值的知识，人们迫切需要从这些海量的数据中获取有用的知识和信息，希望能对这些海量的数据进行自动分类、组织和管理。而这些知识有很多是以Web文本的形式存在的，如何自动、准确、高效地进行Web文本分类是文本挖掘的重要的研究内容之一。 　　信息检索被认为是Web文本挖掘的前身，但是位于Internet上的信息，一方面规模巨大，并且缺乏结构化，对于这些非结构化或半结构化的复杂的Web数据，在做文本分类之前，还需要对获取的文本进行特征提取和表示，然后再使用文本分类技术进行快速、自动的分类。 　　本文主要分析和讨论了基于朴素贝叶斯（Na?ve Bayesian）方法的Web文本分类的相关理论，并使用中文自然语言理解平台[1]上的文本分类语料库，进行具体的实验分析。 　　1 Web文本分类方法 　　1.1 Web文本分类概述 　　文本分类是在预定义的分类体系下，根据文本的特征，将给定文本归类的过程，而文本的特征涉及对文本的理解，因此涉及众多的学科领域。Sebastiani用下面的数学模型描述文本分类。 　　定义函数[Φ：D×C→{T，F}]，其中[D={d1，d1，…，dD}]表示待分类的文本文档，[C={c1，c1，…，cC}]为预定义分类体系下的指标集。设[T]和[F]值表示为二元组[]，分别表示文本[dj]属于类[ci]和文本[dj]不属于类[ci]。在文本分类中涉及两个最重要的问题：文本表示与分类器设计。那么对于来自网络的Web文本分类系统可以简单地表示为图1。 　　1.2 Web文本表示 　　Web文本和其他文本类似，由文字、词语和标点符号组成，要使用计算机来表示文本，首先需要选择一种好的表示方式，并且要求该表示方法能尽可能准确地反映文本的主题、内容和结构等。 　　当前比较常见的表示方法是由G.Salton等人于60年代末提出的向量空间模型（VSM）。在VSM中，用由特征二元组组成的特征向量表示文本[dj]，记为[dj=（t1，ω1j），（t2，ω2j），…，（ts，ωsj）]，其中[（tk，ωkj），1≤k≤s]表示特征[tk]的二元组，[ωkj]表示文本[dj]中特征[tk]的权重，[s]为特征集合的大小。那么对文本的比较、分类等操作就可以转换成特征向量组间的操作，使问题变得简单且易于实现。 　　1.3 Web文本特征选择及特征权重计算方法 　　使用VSM模型对Web文本进行文本表示，得到的特征向量维数一般会非常高，为提高性能，需要对特征向量进行特征选择以降维，那么面临的问题是，应该选择哪些特征，以及应该赋予这些特征多大的权重，以希望经约简的特征向量更好地体现文本的内容、主题等？当前比较常见的方法有：信息增益（IG）、卡方、文档频度（DF）、互信息（MI）、特征强度（TS）等。本文主要使用文档频度的方法进行讨论，该方