73_利用词的分布式表示改进作文跑题检测.pdfVIP

文章编号： 利用词的分布式表示改进作文跑题检测 1,2 1,2 3 陈志鹏 ，陈文亮 ，朱慕华 （1.苏州大学 计算机科学与技术学院，江苏 苏州 215006 ；2.软件新技术与产业化协同创新中心，江苏 苏州 215006 ；3.淘宝（中国）软件有限公司，浙江 杭州 311100 ） 摘要：作文跑题检测任务的核心问题是文本相似度计算。传统的文本相似度计算方法一般基于向量空间 模型，即把文本表示成高维向量，再计算文本之间的相似度。这种方法只考虑文本中出现的词项(词袋模 型)，而没有利用词项的语义信息。本文提出一种新的文本相似度计算方法：基于词扩展的文本相似度计 算方法，将词袋模型(Bag-of-Words)方法与词的分布式表示相结合，在词的分布式表示向量空间中寻找与 文本出现的词项语义上相似的词加入到文本表示中，实现文本中单词的扩展。然后对扩展后的文本计算相 似度。本文将这种方法运用到英文作文的跑题检测中，构建一套跑题检测系统，并在一个真实数据中进行 测试。实验结果表明本文的跑题检测系统能有效识别跑题作文，性能明显高于基准系统。 关键词：文本相似度；词分布式表示；跑题检测；文本表示 中图分类号：TP391 文献标识码：A Exploiting Distributed Representation of Words for Better Off-topic Essays Detection CHEN Zhipeng1,2, CHEN Wenliang1,2,ZHU Muhua3 (1.School of Computer Science and Technology, Soochow University ,Suzhou ,Jiangsu 215006, China; 2.Collaborative Innovation Center of Novel Software Technology and Industrialization, Suzhou ,Jiangsu 215006, China;3.Taobao (China) Software Co., Ltd,Hangzhou,Zhejiang 311100, China) Abstract: Similarity measure is the core component of off-topic essays detection. For computing similarity, the bag-of-words model is widely used. The model represents a text as a vector in which each dimension corresponds to a word, and then computes text similarity. Obviously, such a model leaves out the word semantic information. This paper proposes a new method to compute text similarity: a method exploits word distributed representation. The new method combines the traditional bag-of-words model with the word semantic information. For each word in a text, we search for a set of similar words in a text collection, and then extend the text vector with these words. Finally we compute text similarity with the updated text. Experimental results show that our new method is more effective than baseline systems. Keywords: text s