整数计画法用ー対応最适化翻訳.pptVIP

整数計画法を用いたフレーズ対応最適化による翻訳システムの改良 システム情報工学研究科　１年 学籍番号：200820634 氏名：越川 満 指導教員：山本 幹雄 機械翻訳に対する需要 現在、ウェブ上には膨大なテキスト情報が存在 様々な言語で表現 翻訳手段の一つ：機械翻訳 機械翻訳システム ルールベース手法 　　 1960年代～ excite翻訳など 性能は頭打ち状態 統計的手法　　　　　　 1990年代～ google翻訳 近年著しく性能向上,　未だルールベースの性能には追いつけず 統計的機械翻訳 対訳コーパスから確率的翻訳規則を自動学習 原言語文fが与えられたとき、あらゆる目的言語文の中から翻訳として最も確率の高い目的言語文eを求める 原言語　 ：翻訳元言語　 foreign language 目的言語 ：翻訳先言語 english フレーズベース翻訳 フレーズを翻訳の最小単位とする フレーズ：連続する1単語以上の単語列 フレーズベース翻訳 フレーズを翻訳の最小単位とする フレーズ：連続する1単語以上の単語列 統計的機械翻訳システム 研究の目的 デコーダの問題点 ヒューリスティック探索を用いているため、フレーズ区切り?対応について確率が最大化されていない 本研究の目的 各翻訳候補に対してより適切なフレーズ区切り?対応を適用し(maxc)、デコーダの探索エラーを減少させる 　→ 翻訳精度の改善 　 提案手法 翻訳候補の再順位付け(reranking) デコーダの順位付けた翻訳候補上位n個についてフレーズ区切り?対応を最適化 整数計画法を用いたフレーズ対応最適化 数理計画法として対訳文の最適なフレーズ対応を求める問題を定式化 翻訳候補のreranking デコーダの順位付けた翻訳候補上位n個 フレーズ区切り?対応を最適化し、確率を再計算 翻訳候補のrerankingを行う 確率最大の候補を翻訳結果として出力 フレーズ対応の最適化 フレーズ対応 対訳文の各単語を一度ずつ被覆するフレーズ対の組合せ フレーズ対応取得問題 対訳文およびフレーズ対とその翻訳確率が与えられたとき、フレーズ区切り?対応の候補の中から、確率最大の候補を求める問題 解を求めるシステム： フレーズアライナ 整数計画法を用いた定式化(１) フレーズアライナの定式化(１) 目的関数 max Σxklog pk 制約条件 Fx = 1 ???原言語側単語の被覆条件 Ex = 1 ???目的言語側単語の被覆条件 xk ∈ {0,1} (?k∈K) ???各フレーズ対の使用変数 フレーズアライナの定式化(１) 目的関数 max Σxklog pk 制約条件 Fx = 1 ???原言語側単語の被覆条件 Ex = 1 ???目的言語側単語の被覆条件 xk ∈ {0,1} (?k∈K) ???各フレーズ対の使用変数 整数計画法を用いた定式化(２) フレーズ対応と有向グラフ 有向グラフと語順変化 フレーズアライナの定式化(２) 目的関数 max Σxklog pk +Σze log de 制約条件 My = b ???原言語側でパスとなっている制約 x = Ny ???原言語側の仮変数yからxを導出 M’z = b’ ???目的言語側でパスとなっている制約 x = N’z ???目的言語側の仮変数zからxを導出 xk ∈ {0,1} (?k∈K) ???各フレーズの使用変数 ye ∈ {0,1} (?e∈E) ???原言語側の枝変数 ze ∈ {0,1} (?e∈E) ???目的言語側の枝変数 評価実験 実験条件 ベースライン：Mosesデコーダ 学習データ： 特許対訳文 180万文ペア 約10年分の特許データ テストデータ： 899文 翻訳精度の評価基準：BLEU 正解例との一致率 100[%]に近いほどよい翻訳 reranking対象：Mosesの翻訳候補上位100個 提案手法(Solver：CPLEX11.0)を用いてrerankingを行う 実験結果 翻訳例 　 (確率は改善されたが、BLEUは改善されなかった例) 原言語文： 　 the use of a robot for deburring work is a known prior art . 正解文： 　 バリ 取り 作業 に ロボット を 利用 する こと は 従来 より 公知 の 技術 で ある 。 ベースライン： 　 バリ 取り 作業 用 ロボット を 用い て 従来 技術 が 知ら れ て いる 。 提案手法： 　 従来 技術 の バリ 取り 作業 用 の ロボット が 知ら れ て いる 。 まとめと今後の課題