基于依存分析和贝叶斯网络地无指导汉语词义消歧.pdf

基于依存分析和贝叶斯网络的无指导汉语词义消歧① ② 卢志茂 刘 挺 李 生 （哈尔滨工业大学信息检索研究室 哈尔滨 150001 ） {lzm, tliu}@ 摘要 目前进行的很多词义消歧研究多采用几个多义词作为实验测试对象，在实际应用方面存在着局限性， 本文采用了基于依存分析改进贝叶斯网络的无指导的机器学习方法对汉语大规模真实文本进行词义消歧实 验。该学习算法充分利用依存文法分析确定能够对词语词义构成内在限制的上下文，有效地克服了简单贝叶 斯分类器中无关上下文造成的噪声影响。实验结果证明基于依存改进的贝叶斯模型在汉语词义消歧上表现良 好，开放测试正确率可达 86.27%。 关键词：词义消歧、自然语言处理、无指导学习算法、依存文法分析、简单贝叶斯网络 等。其中，双语对齐方法需要双语对齐语料，如 0 引言 何获得大规模的双语对齐语料是一个有待解决的 词义消歧(WSD)一直是自然语言处理 （NLP ） 问题；机器可读词典方法存在难以克服的噪声问 领域一个重要的热点研究问题，词义自动消歧对 题；向量空间模型中词义聚类方法的学习过程复 于包括信息检索、机器翻译、文本分类和自动文 杂，时间开销过大。上述的几种方法在实现大规 摘等在内的许多自然语言处理系统十分有用。如 模真实文本的词义消歧上都存在着各自的局限 在信息检索中，利用词义消歧技术可使整个系统 性，如何弥补这些方法的缺憾或者寻找更好的替 的检索正确率提高 3.2 个百分点[1], 结果得到明 代方法将是很有意义的研究工作。 显的改善，词义消歧在自然语言处理方面的基础 本文提出了一种基于依存分析改进贝叶斯网 作用可见一斑。 络的无指导词义消歧方法，利用汉语知识库 用在词义消歧上的机器学习方法很多，其中 HowNet 对汉语语料进行词义消歧实验。 统计学方法随着语料库语言学的兴起，以及良好 1 基于依存分析改进的贝叶斯网络 的词义消歧效果受到自然语言处理领域的广泛关 注，并且逐渐占据了主流地位。基于语料库的统 本文提出的方法是在贝叶斯假设的基础上， 计方法根据训练语料事先是否经过人工标注又可 只考虑词汇语法之间的内在关联对特定环境中词 以分为有指导的和无指导的两类。有指导的机器 义的贡献，借助依存文法分析来找出这种词义关 学习方法在词义消歧问题中取得了较好的效果， 联。本文假设不存在词义关联的上下文对于歧义 但是该类方法为了克服数据稀疏问题，获得更好 词语特定词义的贡献为 0，存在语法关联的上下 的学习和消歧效果，必须有规模更大的标准语料 文对词义的贡献相互独立，并且没有顺序的限制。 库的支持。而标准语料的获得需要耗费代价高昂 选择与歧义词汇存在语法关联的上下文作为模型 的人工，很难实现基于大规模标准语料的有导词 中的特征值，这样做既可以减少无关上下文对词 义消歧工作，客观上也限制了该类方法的推广和 义分类产生的噪音，又可以大幅度减少计算次数， 应用。 在提高消歧准确率的同时，明显提高消歧的工作 而无指导的词义消歧方法不依赖于人工标注 效