BP神经网络在网页自动分类中应用.docVIP

BP神经网络在网页自动分类中应用 　　〔摘 要〕针对信息挖掘中的网页自动分类问题，提出了一种基于向量空间模型和并联BP网络的分类方法。该网络由并行连接的多个子网络组成，每个子网络负责一类模式特征的提取，多个子网并行处理所有模式，将分类结果在总输出层表现出来。以因特网上旅游网页分类为例验证了该方法的有效性。 　　〔关键词〕数据挖掘；网页分类；神经网络；学习算法 　　〔中图分类号〕ＴＰ３９１ 〔文献标识码〕Ａ 〔文章编号〕１００８－０８２１（２００９）０５－０１６３－０３ 　　 　　BP Neural Network and Its Application in 　　Web Document Automatic ClassificationZhu Xiuhua 　　（School of Further Education，Daqing Petroleum Institute，Daqing 163318，China） 　　〔Ａｂｓｔｒａｃｔ〕Aiming to web document classification in data mining,a classification method is presented in this paper.The method is based on vector space model and parallel connection BP neural network.The model includes some parallel connecting sub-networks,each of which accounts for extracting a sort of pattern.Total sub-networks synchronously deal with all patterns,and present classification results in last output layer.The availability of model is proved by classification of some web documents in Internet. 　　〔Ｋｅｙｗｏｒｄｓ〕data mining;web document classification;neural network;learning algorithm 　　 　　文本分类是文本信息处理的一个重要研究领域，对提高文本检索、文本存储等应用的处理效率有着重要意义。分类的目的是根据若干已知的规则，构造一个分类函数或分类模型（也常称作分类器），把数据库中的数据项映射到给定类别中的某一个。如何提高文本分类器的识别率和推广能力是这些方法面临的共同问题[１]。目前，不少学者已提出了多种统计方法和机器学习方法，例如，Apte用决策树技术来获取分类器；Yang构造了一种近邻算法进行分类；Lewis采用了一个线性分类器；Cohen设计了一种建立在权值更新基础上的休眠专家算法[２]。人工神经网络理论（Artificial Neural Network）是80年代中后期世界范围内迅速发展起来的一个前沿研究领域。该理论作为人工智能的一个重要分支领域，已显示了它活跃的生命力。近几年来，有关人工神经网络理论的新的研究成果不断涌现，目前我国人工智能及其他相关学科领域的专家、学者在人工神经元网络理论和应用研究方面做出了许多可喜的成绩。除了在语言识别、自动控制等领域应用外，已有实践证明，在文档分类、聚类分析等信息挖掘领域也有着相当高的实用价值[３]。基于向量空间模型的文档分类方法，由于文档特征向量维数一般较高（从几十维到上百维），虽然理论上三层反传播神经网络能够逼近任意非线性映射，但普通反传播神经网络对于高维映射问题往往收敛很慢，且容易发生过拟合现象，使泛化能力受到影响。针对这一问题，本文提出并联BP神经网络模型用于解决文档分类问题，该模型由多个子网并联组成，每个子网负责一类模式。子网的输入只与该类模式特征有关，从而大大降低了文档特征向量的维数。该模型既能分散网络负载，也能加速收敛速度。以中国期刊网全文数据库部分文档数据为例进行实验，应用结果表明了该方法的有效性。 　　 　　１ 文档特征提取 　　 　　特征提取是文档分类系统中十分关键的问题，文档分类特征选取恰当与否对文档分类的正确性和分类效率有重要影响。一个有效的特征项集，必须具备以下2个特征：(1)完全性，特征项能够体现全部文档内容；(2)可区分性，根据特征项集，能将目标文档同其它文档相区分。特征项集的构造可从构造每篇文档的模糊特征项集开始。如何根据正文的语义提取可近似表示正文语义的特征项集是一个复杂问题，严格讲除了要求理解正文的含义之外，尚需