统计机器翻译.pdfVIP

NLPR 第十章 机器翻译 第十章 机器翻译 (2/3) (2/3) NLPR, CAS-IA 2006.5.9 宗成庆：《自然语言理解》讲义 NLPR 2、统计机器翻译 2、统计机器翻译 NLPR, CAS-IA 2006.5.9 宗成庆：《自然语言理解》讲义 NLPR 10.2.1 统计翻译基本原理 10.2.1 统计翻译基本原理 基本思想 1947年Weaver 提出“解读密码(解码)”的思想。 1990年IBM 的Peter F. Brown 等人在《计算语 言学》(Computational Linguistics) 杂志发表的论文 “统计机器翻译方法”[Brown, 1990]和1993年他们 发表在该杂志的“ 统计机器翻译的数学：参数估 计” [Brown, 1993] 两篇文章奠定了统计机器翻译 的基础。 NLPR, CAS-IA 2006.5.9 宗成庆：《自然语言理解》讲义 NLPR 10.2.1 统计翻译基本原理 10.2.1 统计翻译基本原理 噪声信道模型 噪声信道模型 一种语言T (信道意义上的输入，翻译意义上的目标 语言) 由于经过一个噪声信道而发生变形，从而在信道的 另一端呈现为另一种语言S (信道意义上的输出，翻译意 义上的源语言) 。翻译问题实际上就是如何根据观察到的 S ，恢复最为可能的T 问题。这种观点认为，任何一种语 言的任何一个句子都有可能是另外一种语言中的某个句子 的译文，只是可能有大有小[Brown et. al, 1990] 。 噪声信道 噪声信道 T S NLPR, CAS-IA 2006.5.9 宗成庆：《自然语言理解》讲义 NLPR 10.2.1 统计翻译基本原理 10.2.1 统计翻译基本原理 源语言句子： S s m ≡ s s Ls 1 1 2 m 目标语言句子：T t l ≡ t t Lt 1 1 2 l P (T )P (S | T ) P (T | S ) P (S ) ) T arg max P (T )P (S | T ) T 语言模型 翻译模型 Language model, LM Translation model, TM