机器翻译原理与方法-自然语言处理.pdfVIP

机器翻译原理与方法 第四讲 基于词的统计机器翻译方法 刘群 中国科学院计算技术研究所 liuqun@ict.ac.cn 北京大学软件与微电子学院2006-2007年度夏季课程 内容提要 • 概述 • IBM模型的理论 • IBM模型的训练 • IBM模型的解码 • Giza++的使用 • 词语对齐的其他方法 • 机器翻译自动评价 机器翻译原理与方法讲义(02)机器翻译方法 2 信源信道模型 (1) • 信源信道模型又称噪声信道模型，是由IBM 公司的Peter F. Brown等人于1990年提出来 的： Peter F. Brown, John Cocke, Stephen A. Della Pietra, Vincent J. Della Pietra, Fredrick Jelinek, John D. Lafferty, Robert L. Mercer, Paul S. Roossin, A Statistical Approach to Machine Translation, Computational Linguistics,1990 机器翻译原理与方法讲义(02)机器翻译方法 3 信源信道模型 (2) P （E ） E P （F ｜E ） F • 假设我们看到的源语言文本F是由一段目标语言文 本E经过某种奇怪的编码得到的，那么翻译的目标 就是要将F还原成E，这也就是就是一个解码的过 程。 • 注意，在信源信道模型中： – 噪声信道的源语言是翻译的目标语言 – 噪声信道的目标语言是翻译的源语言 这与整个机器翻译系统翻译方向的刚好相反 机器翻译原理与方法讲义(02)机器翻译方法 4 统计机器翻译基本方程式 E arg max (E) (F | E) P P E • P.Brown称上式为统计机器翻译基本方程式 – 语言模型：P(E) – 翻译模型：P(F|E) • 语言模型反映“ E像一个句子”的程度：流利度 • 翻译模型反映“F像E”的程度：忠实度 • 联合使用两个模型效果好于单独使用翻译模 型，因为后者容易导致一些不好的译文。 机器翻译原理与方法讲义(02)机器翻译方法 5 语言模型与翻译模型 • 考虑汉语动词“打”的翻译：有几十种对应的英语词 译文： 打人，打饭，打鱼，打毛衣，打猎，打草稿，…… • 如果直接采用翻译模型，就需要根据上下文建立 复杂的上下文条件概率模型 • 如果采用信源－信道思想，只要建立简单的翻译 模型，可以同样达到目标词语选择的效果： – 翻译模型：不考虑上下文，只考虑单词之间的翻译概率 – 语言模型：根据单词之间的同现选择最好的译文词