整合性尺度を用いた構造的対訳文アラインメント

中澤 敏明　 Yu Kun 　東京大学大学院情報理工学系研究科

黒橋 禎夫京都大学大学院情報学研究科

アラインメントの位置付け

対訳コーパス アライメント 翻訳知識

翻訳文

EBMT

入力文

翻訳

アラインメントの精度は翻訳知識の質に影響する

⇒ 　翻訳知識の質は翻訳の精度に影響する

⇒ 　アラインメントの精度を向上させることは重要！

アラインメント• 統計翻訳（ SMT ）

– さまざまな確率的パラメータを学習– 辞書などの言語資源は基本的には利用しない– 頑健な数学的知識に基づいている

• 用例ベース翻訳（ EBMT ）– 翻訳用例の獲得– 辞書などの言語資源を積極的に利用– アドホックなルールを利用することが多い[Arul 01]

目次

• 研究背景• 用例ベース翻訳におけるアラインメント• 整合性尺度を用いた構造的アラインメン

ト• 実験と考察• 結論

目次

• 研究背景• 用例ベース翻訳におけるアラインメント• 整合性尺度を用いた構造的アラインメン

ト• 実験と考察• 結論

アラインメント

• Step １：依存構造解析

• Step ２：対応候補の探索

• Step ３：対応候補の選択

• Step ４：未対応部分の推定

Step １：依存構造解析• 日本語：形態素解析器 JUMAN/ 構文解析器 KNP• 英語： Charniak’s nlparser → ルールによる変換

交差点 で 、突然

あの車 が

飛び出して 来た のです

the car

came

at me

from the side

at the intersection

J: 交差点で、突然あの車が 飛び出して来たのです。

E ： The car came at me from

the side at the intersection.

Step ２：対応候補の探索• 対訳辞書 （研究社の和英・英和辞書）• 数字の汎化 （二十三 ⇔ twenty three ）• Transliteration （新宿 ⇔ Shinjuku ）

交差点 で 、突然

あの車 が

飛び出して 来た のです

the car

came

at me

from the side

at the intersection

Step ３：対応候補の選択• 曖昧性がある候補や、不適切な候補も見つかる

曖昧な対応の例

you

will have to file

insurance

an claim

insurance

with the office

in Japan

日本 で

保険

会社 に 対して

保険

請求 の

申し立て が

可能です よ

Step ３：対応候補の選択• 曖昧性がある候補や、不適切な候補も見つかる　　　→　様々な対応候補から適切なものを取捨選択　　　 　　する必要がある

このステップが最も重要！

詳細は後ほど。。。

交差点 で 、突然

あの車 が

飛び出して 来た のです

the car

came

at me

from the side

at the intersection

Step ４：未対応部分の推定• 残っているルートノード同士を対応付け

る• 名詞句内のノードをまとめる• そのほかは親ノードへまとめる

目次

• 研究背景• 用例ベース翻訳におけるアラインメント• 整合性尺度を用いた構造的アラインメン

ト• 実験と考察• 結論

アラインメントの整合性• 1 対 複数、複数 対 複数などの曖昧な対応• 曖昧ではないが誤った対応 （中国＝中 ⇔ in ）

曖昧な対応の例

you

will have to file

insurance

an claim

insurance

with the office

in Japan

日本 で

保険

会社 に 対して

保険

請求 の

申し立て が

可能です よ

• 1 対 多、多 対 多などの曖昧な対応• 曖昧ではないが誤った対応 （中国＝中 ⇔ in ）

木構造全体が最も整合的に対応づくような

ロバストなアラインメント手法が必要

アラインメントの整合性

アラインメントの整合性

近い！

遠い！

• 1 対複数、複数対複数などの曖昧な対応• 曖昧ではないが誤った対応 （中国＝中 ⇔ in ）

木構造全体が最も整合的に対応づくような

ロバストなアラインメント手法が必要

アラインメントの整合性

i j

jiEjiJalignment

aadaadf ),(),,(maxarg日本語側距離 英語側距離

整合性スコア（整合性尺度）

距離 - スコア関数

ベースライン手法• 曖昧性のない対応候補は無条件で採用• 曖昧性のある対応候補は整合性尺度を利用• 一つの枝の距離はすべて１　　→　二つの対応間の距離＝木構造上での移動距

離• 距離 - スコア関数

EJ

EJ ddddf

11,

スコア計算例

you

will have to file

insurance

an claim

insurance

with the office

in Japan

日本 で

保険

会社 に 対して

保険

請求 の

申し立て が

可能です よ １１

２１

ベースライン手法• 曖昧性のない対応候補は無条件で採用• 曖昧性のある対応候補は整合性尺度を利用• 一つの枝の距離はすべて１　　→　二つの対応間の距離＝木構造上での移動距

離• 距離 - スコア関数

EJ

EJ ddddf

11,

距離と距離 - スコア関数を改善

距離 - スコア関数の改善（ 1/2 ）

• 毎日新聞４万対訳文のアラインメント正解データで距離ペアの頻度分布を計数 [Uchimoto04]

頻度のlog

日本語側の距離英語側の距離

i j

jiEjiJalignment

aadaadf ),(),,(maxarg日本語側距離 英語側距離

整合性スコア（整合性尺度）

距離 - スコア関数

距離 - スコア関数の改善（ 2/2 ）

• 距離が近い同士のペア → プラス• 距離が遠い同士のペア → ０• 距離が近いものと遠いものとのペア → マイナス

スコア

日本語側の距離

英語側の距離

i j

jiEjiJalignment

aadaadf ),(),,(maxarg日本語側距離 英語側距離

整合性スコア（整合性尺度）

距離 - スコア関数

係り受けタイプと距離you

will have to file

insurance

an claim

insurance

with the office

in Japan

日本 で

保険

会社 に 対して

保険

請求 の

申し立て が

可能です よ

デ格

文節内

連用

文節内

ノ格

ガ格

NP

NP

NN

PP

NN

PP

３

１

１

１

２

２

３

３

３

３

１

１

i j

jiEjiJalignment

aadaadf ),(),,(maxarg日本語側距離 英語側距離

整合性スコア（整合性尺度）

距離 - スコア関数

係り受けタイプと距離日本語

用言：レベル C 6

用言：レベル B+ / B

5

用言：レベル B- / A

4

ト格ヲ格 / ニ格 / デ格

3

ガ格 / ノ格 / 連体

2

文節内 1

用言：レベル A+

英語S / SBAR / SA / : 5

VP / ADVP 4

ADJP / WHADVP

WHADJP

NP / PP / INTJ 3

QP / PRT / PRN

others 2

距離を利用した整合性計算you

will have to file

insurance

an claim

insurance

with the office

in Japan

日本 で

保険

会社 に 対して

保険

請求 の

申し立て が

可能です よ

デ格

文節内

連用

文節内

ノ格

ガ格

NP

NP

NN

PP

NN

PP

３

１

１

１

２

２

３

３

３

３

１

１

距離＝（１，１）スコア ＋

i j

jiEjiJalignment

aadaadf ),(),,(maxarg日本語側距離 英語側距離

整合性スコア（整合性尺度）

距離 - スコア関数

距離を利用した整合性計算you

will have to file

insurance

an claim

insurance

with the office

in Japan

日本 で

保険

会社 に 対して

保険

請求 の

申し立て が

可能です よ

３

１

１

１

２

２

３

３

３

１

１

距離＝（１，７）スコア －

デ格

文節内

連用

文節内

ノ格

ガ格

NP

NP

NN

PP

NN

PP

３

i j

jiEjiJalignment

aadaadf ),(),,(maxarg日本語側距離 英語側距離

整合性スコア（整合性尺度）

距離 - スコア関数

アラインメントの整合性尺度

you

will have to file

insurance

an claim

insurance

with the office

in Japan

日本 で

保険

会社 に 対して

保険

請求 の

申し立て が

可能です よ

i j

jiEjiJalignment

aadaadf ),(),,(maxarg日本語側距離 英語側距離

整合性スコア（整合性尺度）

距離 - スコア関数

目次

• 研究背景• 用例ベース翻訳におけるアラインメント• 整合性尺度を用いた構造的アラインメン

ト• 実験と考察• 結論

アラインメント実験

• 毎日新聞対訳コーパスからランダムに 500文

• 正解データとの比較– 日本語：文字単位　　英語：単語単位– 適合率・再現率・ F値

• 対訳辞書– 研究社　和英　 36K 見出し　 214K エントリー

– 研究社　英和　 50K 見出し　 303K エントリー

精度の計算例E1

E2

E3

E4

E5

E6

E7

E8

E9

J1 J2 J3 J4 J5 J6 J7 J8 J9

適合率（Ｐ）＝129 ＝ 75%

再現率（Ｒ）＝119 ＝ 82%

F値＝ＰとＲの調和平均＝ 78％

結果と考察適合率 再現率 F値

ベースライン 60.26 61.68 58.79

＋距離 - スコア関数改善

64.35 61.58 60.81

＋係り受け距離 64.93 62.64 61.91

GIZA++ (with JUMAN) 59.9 17.0 26.4

• 距離 - スコア関数改善により大幅な適合率向上

• 係り受け距離を考慮することにより全体的な精度の向上

改善例（１）

Ｊ：妥当な判決であると評価したい。Ｅ： I would like to commend that it was a reasonable judgment.

改善例（２）

Ｊ：チェチェン紛争は、東欧諸国の北大西洋条約機構への加盟要求を一層高めることになろう。Ｅ： The Chechen conflict will accelerate the call for the participation of Eastern European nations in NATO

結論と今後の課題• 係り受けタイプと距離 - スコア関数を導入• アラインメントの整合性尺度を定義し、適

切な対応候補の選択を可能とすることにより、アラインメント精度の向上に成功

• 係り受けタイプに基づく距離を自動学習• 距離スコア関数のチューニング• 他の有効なフィーチャの導入