用BP神经网络实现中文文本分类.docVIP

用BP神经网络实现中文文本分类 　　摘 要： 文本分类是文本挖掘的一个重要内容，在很多领域都有广泛的应用。为了实现中文文本分类问题，先采用分词技术和TF-IDF算法得到每一篇中文文档的特征向量，然后采用PB神经网络构造一个中文文本分类器。实验证明，采用BP神经网络进行中文文本分类时，虽然存在学习周期长，收敛速度慢等问题，但其分类速度和分类的正确率还是很高的。因此，采用BP神经网络进行中文分类是一个比较好的方法。 　　关键词： 中文文本分类； BP神经网络； 中文分词； 文档特征向量 　　中图分类号：TP391 文献标志码：A 文章编号：1006-8228（2015）11-58-04 　　Abstract： Text classification is an important part of text mining， and it has been widely used in many fields. In order to realize the Chinese text classification， the feature vector of each document is obtained by using the word segmentation technique and TF-IDF algorithm， and then a Chinese text classifier is constructed by BP neural network. Experiment results show that using BP neural network to Chinese text categorization， although there are problems such as a long learning period， slow convergence and so on， the classification speed and classification accuracy rate is quite high. Therefore， using BP neural network to classify Chinese is a good way. 　　Key words： Chinese text classification； BP neural network； Chinese word segmentation； document feature vector 　　0 引言 　　文本分类是指按照预先定义的主题类别，为文档集合中的每个文档确定一个类别，文本分类是文本挖掘的一个重要内容。目前，在国内已经对中文文本分类进行了广泛研究，并在信息检索、Web文档自动分类、数字图书馆、自动文摘、分类新闻组、文本过滤、单词语义辨析以及文档的组织和管理等多个领域得到了初步应用。 　　BP（Back Propagation）神经网络是1986年由Rumelhart和McCelland为首的科学家小组提出，是一种按误差逆传播算法训练的多层前馈网络，BP神经网络在分类问题上有着非常广泛的应用，是目前应用最广泛的神经网络模型之一。BP神经网络能学习和存贮大量的输入-输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。其学习规则是使用最速下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差平方和最小。BP神经网络模型拓扑结构包括输入层（input）、隐层（hide layer）和输出层（output layer）。 　　研究文本自动分类的核心问题是如何构造分类函数（分类器），分类函数需要通过某种算法进行学习获得。现在比较流行的分类算法有Rocchio算法、朴素贝叶斯分类算法、K-近邻算法、决策树算法、神经网络算法和支持向量机算法等，这些算法各有千秋。当然，这些分类算法同样适用于中文文本分类算法。出于对中文文本分类算法的兴趣，本文采用PB神经网络算法完整地实现了中文文本的分类。实验证明，采用该算法进行中文文本分类时，虽然存在学习周期长，收敛速度慢等问题，但其分类结果具有分类速度快、分类正确率高等特点。 　　用BP神经网络实现中文文本分类，其过程如图1所示。该方法主要包括学习和分类两大部分，所涉及到的主要技术包括中文词典构建和查找算法、中文文档分词算法、TFIDF特征向量权值计算算法和BP神经网络算法。 　　1 采用BP神经网络构建中文文本分类器 　　1.1 分词和去掉停用词 　　采用最大逆向分词算法对训练文档集中的每一个文档进行分词，并根据停用词表去掉一些常用的停用词，通过分词得到所有训练文档集的特征词表Dt（每个特征词条都不相同）和每个文档的特征词空间Dk（