Indicator Indicator Indicator.pdfVIP

ISSN 1000-9825, CODEN RUXUEW E-mail: jos@ Journal of Software, Vol.17, No.5, May 2006, pp.1026?1033 DOI: 10.1360/jos171026 Tel/Fax: +86-10 ? 2006 by Journal of Software. All rights reserved. 一种特征匹配方法:稀疏特征树 ? 周雅倩+, 黄萱菁, 吴立德 (复旦大学 计算机科学与工程系,上海 200433) A Feature Matching Method: Sparse Feature Tree ZHOU Ya-Qian, HUANG Xuan-Jing, WU Li-De (Department of Computer Science and Engineering, Fudan University, Shanghai 200433, China) + Corresponding author: Phn: +86-21 E-mail: ZhouYaqian@, /mcwil/irnlp Zhou YQ, Huang XJ, Wu LD. A feature matching method: Sparse feature tree. Journal of Software, 2006, 17(5):1026?1033. /1000-9825/17/1026.htm Abstract: Computational efficiency is an important concern for machine learning algorithms, especially for applications on large test sets or in real-time scenarios. In this paper, a novel data structure and the corresponding algorithms for the execution system of the maximum entropy model are described. This data structure, called sparse feature tree, is used to represent the feature set to speed up the process of feature search (or feature matching), so that speed up the process of probability calculation and execution system. Experiments on chunking recognition and Part-of-Speech tagging are conducted to show that the new data structure greatly speeds up the feature matching process while keeping the same space complexity. Key words: sparse feature tree; maximum entropy model; feature matching 摘 要: 在大规模或实时环境要求下,机器学习算法的计算效率非常重要.描述了用于最大熵模型执行系统的 一种高效的数据结构及其相关的生成和查找算法.这种数据结构称为稀疏特征树,用于表示特征集合,以提高特 征查找(或特征匹配)的速度,从而提高概率计算和执行系统的速度.基本短语识别和词性标注的实验显示,这种 新的数据结构的确能够极大地加快最大熵方法执行系统的速度,同时保持空间复杂度不变. 关键词: 稀疏特征树;最大熵模型;特征匹配 中图法分类号: TP181 文献标识码: A 最大熵方法在自然语言处理方面的应用非常广泛.1992年,Della Pietra首先把最大熵方法应用于自然语言 处理[1].十几年来,最大熵方法在自然语言处理领域的成果越来越令人瞩目.1996年,Berger等人提出了解决条件 最大熵方法两个基本任务(特征选择和模型选择)的基本算法,并把它用于机器翻译、词序重排和断句等任务[2]. Rosenfeld把最大熵模型用于语言模型[3,4].Adwait Ratnaparkhi[5]在最大熵方法用于自然语言处理方面做了一系 列工作,包括把它用于介词短语修饰问题[6]、词性标注