(第一届全国信息检索与内容安全学术会议-检索主题难易度预测.docVIP

检索主题难易度预测 吕学强，赖治国，昝红英，项昆 （北京大学计算语言学研究所，北京 100871） TREC2004 Robust任务有一项新要求，就是要把检索主题按照从易到难的顺序排列. 针对新要求，该文提出了基于单词歧义性大小的检索主题难易度模型. 根据WordNet和它附带的Brown语料库构造了单词义项分布词典，然后把检索主题中的单词按歧义性大小分为七类，通过计算平均单词容易度来度量检索主题的难度. 实验结果表明该模型有一定的预测能力. 最后预测了TREC2004 Robust任务的250个检索主题的难易度. 信息检索;文本检索会议; 鲁棒性任务; 检索主题难易度;义项分布 Prediction of Topic Difficulty L? Xue-qiang, LAI Zhi-guo, ZAN Hong-ying, XIANG Kun (Institute of Computational Linguistics, Peking University, Beijing 100871) TREC2004 robust track requires predicting the relative difficulty of the topics. A topic difficulty model based on word sense ambiguity was proposed in this paper. After constructing a sense distribution dictionary using WordNet and Brown corpus, the words in a topic could be put into seven classes. Average word easiness reflected the topic difficulty. Experimental results showed that the model can predict topic difficulty to some extent. According to the model, the relative difficulty of 250 topics in TREC2004 robust track was predicted. Information retrieval; TREC; robust track; topic difficulty; sense distribution 引言 文本检索会议(Text REtrieval Conference,TREC, )从1992年创办以来影响越来越大，对推动文本信息检索的发展起到了巨大的作用. TREC2003已发展到有22个国家的93个研究小组参加[1]. 国内复旦大学、清华大学、哈尔滨工业大学、中科院计算所、中科院自动化所、中科院软件所等单位也参加过TREC[2-8]，并且取得过优良的成绩. TREC2004 鲁棒性任务提出了一项新要求，那就是在提交的检索结果之后，还要附上250个检索主题(topic)的难度顺序. TREC2002 QA任务中也有类似要求[9]，当时的QA任务要求参测系统把500个问题按自信程度降序排列，并以下列方式进行打分： (1) 其中Q代表检索主题总数. 这样排序第1的问题权重是排序第500的问题权重的X倍，排序对最后的总得分起着至关重要的作用，系统得分主要由自信程度排在前列的几个问题决定，排在后面的问题对总得分没有太大影响. 鲁棒性任务主要研究较难检索主题的处理，所以不仅不会象QA任务那样降低最差检索主题的权重，反而会专门考虑它们，TREC2003鲁棒性任务中就专门对得分最低的四分之一的检索主题进行了评价. 针对鲁棒性任务的新要求，本文提出了检索主题难易度模型. 检索主题难易度模型 检索主题构成 TREC中的一个检索主题由三部分构成：标题部分、描述部分和叙述部分，叙述部分又可分为肯定叙述部分和否定叙述部分. 下面是一个检索主题的例子： top num Number: 301 title International Organized Crime desc Description: Identify organizations that participate in international criminal activity, the activity, and, if possible, collaborating organizations and the countries involved. narr Narrative: A releva