基于概念簇的文本分类算法 - 图书情报工作.pdf

第５７卷 第１５期　２０１３年８月 基于概念簇的文本分类算法 ■ 马甲林　刘金岭　金春霞 ［摘　要］针对传统文本分类算法在向量空间模型表示下存在向量高维、稀疏以及忽略特征语义相关性等 缺陷所导致的分类效率低和精度不高的问题，以知网（ＨｏｗＮｅｔ）为知识库，构建语义概念向量模型 ＳＣＶＭ （ＳｅｍａｎｔｉｃＣｏｎｃｅｐｔＶｅｃｔｏｒＭｏｄｅｌ）表示文本，根据概念语义及上下文背景对同义词进行归并，对多义词进行排歧， 提出基于概念簇的文本分类算法ＴＣＡＢＣＣ（ＴｅｘｔＣｌａｓｓｉｆｉｃａｔｉｏｎＡｌｇｏｒｉｔｈｍＢａｓｅｄｏｎｔｈｅＣｏｎｃｅｐｔｏｆＣｌｕｓｔｅｒｓ），通过改 进传统ＫＮＮ，用概念簇表示各个类别训练样本，使相似度的计算基于文本概念向量和类别概念簇。实验结果表 明，该算法构造的分类器在效率和性能上均比传统ＫＮＮ有较大的提高。 ［关键词］文本分类　语义概念向量　概念簇　ＫＮＮ　知网 ［分类号］ＴＰ３９１．１ 　　ＤＯＩ：１０．７５３６／ｊ．ｉｓｓｎ．０２５２－３１１６．２０１３．１５．０２１ 　　文本分类是自然语言处理领域内的一个重要研究 排歧，构建了基于语义概念向量的文本表示模型，然后 分支。目前常采用向量空间模型（ＶＳＭ）来表示文本， 提出了基于概念簇的文本分类算法。该算法通过改进 由于汉语包含词汇量较大，仅《现代汉语词典》中收录 ＫＮＮ分类算法，使各个类别的训练样本形成类别概念 的常用词就达８万多个，ＶＳＭ模型必然产生向量高维 簇，通过计算待分类文本概念向量和类别概念簇相似 和稀疏问题［１－２］；另外，以ＶＳＭ为基础的大多数基于 度，选取相似度超过某个阈值的最大类别概念簇所代 统计的分类算法最基本的前提假设是向量之间两两正 表的类别作为该文本被划归的类别。该算法在一定程 交，往往忽略特征之间的语义联系，分类过程又受到同 度上解决了传统文本分类算法在 ＶＳＭ模型表示下出 义词和多义词的干扰，导致分类精度和效率很难进一 现的向量高维和稀疏以及缺乏语义信息等缺陷所导致 ［３－５］ 的分类效率低和性能不高的问题。 步提高 。 　　不少学者提出了借助知识库表示文本的模型，以 １　语义概念向量模型 克服传统ＶＳＭ表示文本的缺陷问题。国内最著名的 知识库是中国科学院董振东教授主持创建的知网 　　文本处理的首要问题是文本表示，本研究以知网 ［６］ （ＨｏｗＮｅｔ）。熊忠阳等 利用知网对文本向量进行二 为知识库，构建基于语义概念的向量模型 ＳＣＶＭ 次降维后再使用ＫＮＮ分类，虽然在分类效率和精度上 （ＳｅｍａｎｔｉｃＣｏｎｃｅｐｔＶｅｃｔｏｒＭｏｄｅｌ）。 都有所提高，但缺点是未对 ＫＮＮ算法进行有效改进， １．１　语义类定位 ［７］ 　　知网是以汉语和英语词汇所代表的概念为描述对 所以收效有限。刘海峰等 在传统ＶＳＭ模型下使用 类别选择的方法来改进 ＫＮＮ，也提高了分类效率，但 象，以揭示概念与概念之间以及概念所具有的属性之 没有解决ＶＳＭ模型自身的缺陷。另外，国内也有一些 间的关系为基本内容的常识知识库（知网相关信息详 研究人员在文本分类、聚类中利用知网概念表示文本， 见ｗｗｗ．ｋｅｅｎａｇｅ．ｃｏｍ）。在知网中，词汇语义描述被定 但这些研究大多是将文本表示成孤立的概念列表，没 义为概念，概念又是通过义原来描述的；相比词汇的规 能充分利用知网知识库中概念间的语义关系。 模，义原的数量很少。知网定义了１５００多个义原，其 　　本研究利用知网知识库，首先通过关键词到概念 结构为树形组织，语义相似程度可以通过树形结构来 的映射实现同义词归并，再利用语义类定位对多义词 体现，语义越接近，义原在树内越靠近。概念定义 本文系江苏省教育厅高校哲学社会科学项目“网络资源个性化信息服务模式研究”（项目编号：２０１２ＳＪＤ８７０００１）研究成果之一