基于语义扩展短问题分类.docVIP

基于语义扩展短问题分类 　　摘要 问题分类是问答系统任务之一。特别是语音交互方式中，用户的提问较短，具有口语化特征，利用传统文本分类方法对问题进行分类的效果不佳。本文为此提出一种基于语义扩展的短问题分类方法，该方法使用搜索引擎对问题进行知识扩展；然后，使用主题模型进行特征词选择；最后，利用词语相似度计算获取问题的类别。实验结果表明，所提方法在1365条真实问题集上平均Fmeasure值达到0.713，其值高于支持向量机（SVM、K近邻（KNN算法和最大熵方法。因此，该方法在问答系统中可以帮助系统提升问题分类的准确率。 　　关键词 主题模型；问题分类；搜索引擎；问答系统 　　0引言 　　信息检索主要是基于特征词的匹配，输入为特征词或者特征词的组合形式，返回的结果是大量已排序的文本知识，而问答系统是信息检索的一种高级形式，其输入为一句自然语言语句，检索的结果是简单明确的词或者语句，结果与答案高度相关。现有的问答系统有多种实现方式，但是其处理流程大体相似：问题分类，语义理解，文本检索，结果抽取。因此，问题分类研究在问答系统中具有重要的地位，未来的数据检索是面向知识的，所以对问题分类的处理，直接影响到对问题的语义理解的准确性和答案抽取的正确性。 　　在移动互联网时代，语音输入是未来主要的输入方式。与基于Web的问答系统的问题相比，移动终端上的语音问题大都是生活类的问题，例如，“我饿了”“我想看电影”等。这种语音问题都极短、且具有口语化、歧义性特征。与长文本相比，语音输入问题所包含的特征词很少，有时候只包含有一个特征词或者没有特征词，所以仅根据特征词很难理解问题所要表达的真正语义。现在主流的文本分类方式主要有基于词形的文本分类和基于语义的文本分类，这两种分类都是面向于完整的长文本，而且现有方法大都基于有监督学习，需要大量人工标注的训练语料构建模型，所以对于实际的问题，直接使用目前的机器学习的方法，效果难以得到保障。 　　本文提出了一种基于语义扩展的短问题分类方法，该方法使用搜索引擎对问题进行知识扩展，以搜索引擎返回的结果为数据源，使用主题模型获得与问题相关的特征词，然后计算特征词与类别词之间的相似度，得到短问题的类别。例如，对于问题：“附近有什么好吃的”，使用搜索引擎，可以获取大量与“饮食”有关的网页，提取网页标题和摘要，形成一个长文本，基于主题模型提取特征词“好吃、美食”，将特征词与类别词“美食，生活服务，……”逐一进行相似度计算，其中，特征词“美食”与类别词“美食”相似度最大，从而确定该问题的类别为“美食”。该方法使短问题转化为了长文本，这样有利于挖掘问题所隐含的语义信息，缓解数据稀疏性问题和歧义问题，实验结果表明该方法能有效提高问题分类的性能。 　　论文的其余章节安排如下：第1节讨论了相关工作，第2节介绍了对问题如何利用搜索引擎进行知识扩展和分类算法的关键处理流程，第3节介绍了数据预处理、评价指标等，并对实验结果进行分析，第4节对全文进行总结。 　　1相关工作 　　在问题分类早期，主要是基于规则的分类[1-3]，假如一个问题符合某个类别中的规则集，那么该问题就属于该类别，而且，对于单个类别的规则库，需要人工的方式书写大量的规则。例如，“人物”类别，其属性有：“籍贯”“出生年月”“毕业院校”“工作单位”等多个属性，所以对每个属性编写规则工程量浩大，同时，属性之间也需要处理数据对齐，比如“出生年月”和“生日”是同一个属性，但却有不同的表达，这造成规则库中的规则很庞大，且有时候会出现不同类别之间的规则相互矛盾的情况。 　　目前，基于机器学习的分类方法得到了重视，而且，在分类应用中，表现出了很好的性能。起初，Hacioglu等[4]将一个问题中的每个词作为特征，使用支持向量机（Support Vector Machine， SVM分类器对UIUC（University of Illinois at UrbanaChampaign数据集上的50个类别集合进行分类，最后分类的准确率达到80.2%。Zhang等[5]使用SVM算法对问题进行分类，但是和Hacioglu等[4]不同的是在特征提取方面，使用了tree kernel进行提取特征项，使用该方法其准确率可以达到90.0%。另外一种比较典型的分类是层次分类方法[6]，比如Li等[6]提出一种稀疏神经元网络（Sparse Network of Winnow， SNoW分类器，该分类器中，首先将问题分到6个大类别中的某一类中，然后再将问题分类到50个小类中的某个类别中，该分类方法最终分类准确率达到84.2%。Metzler等[7]使用层次分类器，首先，把问题分到某一个大类中；然后，使用每个大类所训练出的分类器再细分为小类；最终，准确率也达到83.6%。 　　在短问题中，