将HNC领域引入文本分类的尝试与探讨研究.pdfVIP

将HNC领域引入文本分类的尝试与探讨 邬 郑1 吕晓莉1 晋耀红1’2 1北京大正语言知识处理研究院 北京 100081 2中国科学院声学研究所 北京 100080 摘要：在本文中，我们尝试将HNC领域作为文本特征，结合现有的分类技 术，探索一条文本分类的新方法。本文对这一方法作了详细说明，并给出了试验 数据及数据分析。通过试验，我们发现，单纯基于领域特征分类方法在分类精度 上不如基于词特征的方法，基于词和领域的混合特征则在效果上略有提高；在分 类速度和特征压缩比方面，基于领域特征的算法远远高于其他算法。 关键字：中文信息处理，HNC理论，文本分类，语境，领域，向量空间模 型，KNN，最大熵，聚类 一、引言 在信号处理领域，对于信号的识别与分类算法有过大苗深入的研究，现在已 经形成了一门学科——模式识别。文本分类技术里面的很多方法都来自于这门学 科。直接源于统计理论的有贝叶斯方法，最大熵方法；源于神经网络理论的有神 经网络分类方法，支持向量机分类方法；还有基于朴素分类原理的K近邻方法，K 中心向量方法；还有模仿分类智能活动的基于决策树的方法。 这些方法有个共同的特点是把文本看成无意义的信号串，单纯依靠样本所表 现的信号统计特征来进行分类。但是，如果不能抓住语义映像，对于某些深层次 的分类问题(尤其是不以文本中出现的某些主题的数量多少为依据的分类标准)， 基于浅层信号分析的分类方法会暴露出其局限性。我们试图依据HNC理论的部分 观点，将HNC领域特征引入文本分类，试图寻找到一种突破分类瓶颈的方法。 文章第一部分为引言；第二部分介绍了HNC领域以及HNC领域特征的提取 的思路；第三部分分析了文本分类技术中的几个关键环节，提出了将HNC领域特 征引入文本分类的途径；第四部分给出了试验数据，并对数据作了分析与理论思 考；文章结尾对下一步T作进行了展望。 二，领域与领域特征 (一)HNC领域简介 HNC领域的概念源自于HNC关于语境的理论，在此有必要先简要介绍HNC 的语境理论(黄曾阳，2004)。HNC认为语境是听和读在大脑(或计算机)中留下的 效应，语境无限，语境单元有限。 在句群①层次，HNC定义了语境单元，它是一个由领域、情景、背景三要素 构成的结构体。领域描述事件的类型；情景描述事件变化发展的过程，存在的关 系与状态；背景描述事件发生的客观条件。此i要素构成了语境单元，其构成方 式称为语境单元表示式。HNC认为，语境单元构成了人们语言活动中的短时记忆 (或称工作记忆)。 在更高层次上，HNC提出了语境框架表示式，它是语境的形式化表述结构， 它是由作用、反映、过程、转移、关系、状态六个语义基元(是HNC语义网络最 核心的部分)为线，具体概念(对象或事件)为珠，在一定时间、空间，在一定背景 下，穿珠引线编织成的一个语义结构体。 (二)领域特征的提取与选择 从理论卜说，要准确提取篇章的领域特性需要依据HNC句类分析的语义分析 结果。通过对句子中特征语义块、广义财象语义块的分析与提取，能够弄清楚这 个句子中到底涉及哪些HNC概念节点；通过对这些语义块之间的语义关系的分 析，能找到句子的语义层次结构、组织结构，从而弄清楚涉及的HNC概念节点中 哪些是核心的重要的，哪些是次要的可忽略的。通过上述定性的和定量的分析， 能够提取出篇章中每句话所涉及的领域节点以及各自占的权重。最后在篇章范围 内对每句话的领域节点进行统计累加，构成了篇章的带权值领域节点表。 然而在我们实际实现的时候，我们采取了简化的提取方法。提取算法接受到 分词结果后，直接从词中依据HNC词语知识库，直接提取HNC语义符号，从 HNC语义符号中提取领域节点。按照领域节点所在句子的位置不同，而给予不同 的权值(标题、首尾段、段首尾取高权值)。这种大大简化过的提取算法，实际上 是介于统计和语义之间的方法，它利用了语义知识库，把词汇通过语义知识库上 ①HNC认为从语句到篇章之间存在一个介层，这就是句群。它的范围小于篇章，但又不 等同段落，它是在篇章中有完整独立意义，有自己的领域、背景、情景的，由一个以上句子构 成的，意义表述单元。 升到了概念层面，但是对于得到的语义符号串，又采用统计的方法来进行评价， 最后是统计方法主导了对特征的抽取与选择。 在实际的试验系统中，除了改变了特征的类型为HNC领域，文本特征的提取 算法发生了改变以外，其他训练、分类算法都沿用了哪砦经典的方法。试验数据 部分给出了这一思路下的实际分类效果。 三、将领域特征引入文本分类的途径