基于最大熵的汉语短语结构识别方法.pdfVIP

第37卷 第 16期 计 算 机 工 程 2011年8月 V0．1．37 No．16 ComputerEngineering August2011 · 人工智能及识别技术 · 文章编号t1删 (20l1)l矗．-o2o昏-_o3 文州幂识码：A 中圈分类号tTP391 基于最大熵的汉语短语结构识别方法 霍亚格，黄广君 (河南科技大学电子信息工程学院，河南 洛阳471003) 摘 要：为提高计算机对汉语信息的处理能力，更好地进行浅层句法分析，提出一种基于最大熵的汉语短语结构识男n方法。利用词语之间 的互信息知识对句子的短语结构边界进行预测，应用最大熵模型建立原子模板与复合模板，选择有效的特征构成特征集，实现对句子短语 结构的识别。实例证明，基于互信息的最大熵模型能取得较好的精确率和召回率。 关悯 ：浅层句法分析；互信息；边界预测 ；最大熵模型；特征选择 RecognitionMethod0fChinesePhraseStructure Based0nM aximum Entropy HUoIra-ge．HUANGGuang-jun (Electronic InformationEngineeringCollege，HenanUniversityofScienceandTechnology,Luoyang471003，China) [Abstract]Toimprovethecomputer’sprocessingcapacityonChineseinformation，．naddobettershallow parsing，thispaperpresentsa recognitionmehtodofChinesephrasestructurebasedonMaximumEntropy(ME)．TheMuutalInformation(MI)amonghtephrasesisproposedto achieveboundarypredictionofhtesentencesstrucutre，andhteMEmodelisusde tosetupatomicnadcompositetemplates，selectsmoreeffective featuresforconstiuttinghtefinalfeautreset．Th eidentificationofphrasestructureiscompletedbyusingtheMEmehtod，andgoodprecisionnad recallateprovedintheMEmodelbasedonMIbyhtepracticalexperiment． [Keywordslshallowparsing；MutualInformation(MI)；boundaryprediction；MaximumEntropy(ME)model；featureselection DoI：10．3969／j．issn．1000—3428．2011．16．070 1 橇述 2 理论概述 在 自然语言处理中，句法分析是重点和难点，虽然经过 2．1 互信息理论 几十年的研究和发展，现在仍是一个瓶颈问题。而基本短语 词语之间的搭配信息可以作为划分边界的依据，互信息 的识别和分析是 自然语言浅层句法分析的重要任务之一。基 (MI)是信息论6【里一种有用的信息度量，它是指 2个事件集 本短语的分析结果可以简化句子的结构，降低句法分析的复 合之间的相关性，可表示为2个事件概率的函数： 杂度，解决绝大部分的局部歧义结构问题，从而为进行更深 Ml(a，6)：lg(— ) (1) 入的语块分析和