融和丰富语言知识汉语统计句法分析.pdfVIP

融和丰富语言知识的汉语统计句法分析 1,2 1 熊德意 刘群 1 (中国科学院计算技术研究所,北京 100080); 2 (中国科学院研究生院,北京 100039) E-mail: dyxiong@ict.ac.cn 摘要：我们的汉语统计句法分析模型从 3 个方面融合丰富的语言特征知识：1）利用非递归名词短 语界的相对确定性重新标注树库中的名词短语；2 ）设计新的中心词映射表；3 ）引进上下文配置框 架。这些语言特征知识使模型的性能提高了 10%。 关键词：统计句法分析 非递归名词短语 中心词映射表 上下文配置框架 引言 基于树库的统计句法分析是现代句法分析的主流技术，它的本质就是在有指导训练的前提下， 从树库中自动学习一个映射函数，将句子从线性序列结构映射到某种正确的句法树结构上。[1][2][3] 等模型都是经典的统计句法分析模型，这些模型的共同特点是不需要人工繁琐地建立各种消歧规则。 统计句法分析面临的一个主要问题是如何发现和利用具有强消歧能力的语言特征知识，同时保 证语言知识的应用不会使模型的参数急剧膨胀而导致严重的数据稀疏问题。人工建立的树库显然是 一个较理想的语言知识库，该知识库中蕴含了各种语法规则，词汇依存关系，词类规则等知识。然 而直接建立在树库基础上的统计模型分析效果并不是很理想[2]，分析能力更强的模型[1][3][4]常常吸收 了更多的语言知识，这些语言知识一部分用来改造和扩充树库，另一部分则内嵌在模型结构中，构 成模型新的参数类型。 我们的模型从三个方面来融合和吸收丰富的语言特征知识：1）利用非递归名词短语界的相对确 定性重新标注树库中的名词短语；2）设计新的中心词映射表；3）为了利用标点符号，并列结构， 修饰距离等语言特征知识，我们提出了上下文配置框架，该框架能够很容易地将这些语言知识内嵌 在模型结构中。三种语言特征知识的利用使模型的性能提高了将近 10％。 本文按如下方式组织：第 2 节简单介绍我们的统计句法分析模型；第 3 节介绍模型所利用的语 言特征知识，探讨非递归名词短语的标识，新的中心词映射表以及上下文配置框架；第 4 节给出我 们的实验结果；最后是我们的结论和未来的研究方向。 1. 统计模型 我们的统计模型建立在 Collins Model 2 基础上，该模型提供了一个很好的平台，能够融合多种语言 特征知识，同时仍保证模型结构的清晰性，一致性。Collins Model 2 的核心在于它的基于中心词的 规则 Markov 分解，任何一条上下文无关规则（规则右部为非词类标记），都可以被看作如下的形式： P[h ] → L [l ]L [l ]L [l ]H [h ]R [r ]R [r ]R [r ] n+1 n+1 n n 1 1 1 1 m m m+1 m+1 其中 P 为父结点，H 为中心子结点，L 、R 为 H 的左右修饰结点（其中Ln+1 Rm+1 STOP ，表示 规则右部两端的终结）。方括号内的标记代表对应结点的中心词（由单词以及其词类构成的二元组 w,t 组成），父结点的中心词从中心子结点的中心词继承而来。按照概率乘法定理，规则的概率 为： P (L [l ]L [l ]H [h]R [r ]R [r ]| P,h) n n 1 1 1 1 m m P (H | P,h) × ∏ P (L [l ]| L [l ]L − [l − ],P,H ,h) × h l i i 1 1 i 1 i 1 i 1..n=+1 ∏ P (R [r ]| L [l ]L + [l + ],R [r ]R − [r − ],P ,H ,h ) r j j