《统计自然语言处理与信息检索》第7讲概率上下文无关文法2.pptVIP

其他句法分析方法（2） 依存语法和短语结构语法的关系 与短语结构语法比较起来，依存语法没有词组这个层次，每一个结点都与句子中的单词相对应，它能直接处理句子中词与词之间的关系，而结点数目大大减少了。 其他句法分析方法（3） “大学学生学习英语语法”这个句子，如果用短语结构语法来表示，其结构是一个短语结构树： S? NP VP N N V NP 大学 学生 学习 N N 英语 语法 其他句法分析方法（4） 用依存语法来表示，其结构是一个依存树：? 学习 学生 语法 大学 英语 显而易见，依存树的结构比短语结构树简洁得多，层次和结点数都减少了。因此，依存语法受到了自然语言处理研究者的欢迎。 其他句法分析方法（5） （2）两种语法本质上是一致（或等价）的。 以名词短语消歧为例： “phrase structure model” 短语结构语法： a. b. phrase structure Ny model Nx model phrase structure Nv Nu 其他句法分析方法（6） 依存语法： a. phrase structure model b. phrase structure model 结论：依存语法等价于词汇化的短语结构语法 其他句法分析方法（7） 相对短语结构语法，依存语法具有两个优势： 依存语法是天然词汇化的，直接按照词语之间的依存关系工作，而词之间的依存关系又是歧义决策的依据。 依存关系给出了分解短语结构规则的方法，而且能够估计它们的概率。 VP V NP PP V(P) N(P) P(P) VP V NP VP V PP 其他句法分析方法（8） 非词汇化树库语法（Charniak，1996） 输入时一系列词类标记(word categories)，没有使词汇信息 参数少，不必考虑数据稀疏 基于历史的语法 (HBGs) （Black，1992） 应用语法派生过程的历史信息 用决策树学习历史信息的特征 （Magerman, 1994） SPATTER（Jelinek，1994） 一些可免费使用的句法分析器 Michael Collins ‘s Parser /mcollins/code.html English Dan Bikel ‘s Parser /~dbikel/software.html#stat-parser English / Chinese / Arabic Stanford Parser /software/lex-parser.shtml English / Chinese / German David Chiang’s Parser /~chiang/ English / Chinese 国内的有中科院的ictclasictprop，哈工大的基于依存关系的句法分析器 * * * * * 利用外部概率计算句子概率（4） N1 利用外部概率计算句子概率（5） 例子： S1.0 NP0.1 astronomers VP0.7 V1.0 NP0.4 saw NP0.18 PP1.0 stars P1.0 NP0.18 with ears S1.0 NP0.1 astronomers VP0.3 VP0.7 saw NP0.18 stars PP1.0 P1.0 NP0.18 with ears V1.0 计算步骤： 问题2：确定句子的最佳分析树（1） Viterbi变量 HMM中，用 记录时刻 t 通过状态 i 的路径的最大概率值 PCFG中，用 记录子树 的最大概率， 记录当前的最佳路径 根据文法G，从非终结符 推导出词串 ，每个推导（对应一个子树）都有相应的概率值，其中概率最大的记做 。