VP - LUULULU

Example-based Machine
Translation without Saying
Inferable Predicate
Eiji Aramaki* **, Sadao Kurohashi* ** ,
Hideki Kashioka** , Hideki Tanaka***
* University of Tokyo
** ATR
*** NHK
EBMT Framework
Input
カナダで
(Canada)
開かれた
(be held)
会議で
(conference)
EBMT using Structural
Translation Examples
Translation Examples
五月初めに
to be held
カナダで
開かれた
For each phrase in an input,
a plausible TE is retrieved
Output
conference
└held
└in Canada
in Canada
conference
会議で
議論されました
for negotiations
English phrases are combined
to generate output
Purpose
INPUT :
カナダで 開かれる
(Canada) (be held)
会議で
(conference)
Redundant
OUTPUT: a conference held in Canada
HUMAN : a conference in Canada
INPUT :
観光シーズンを
(tourism season)
迎えた
北海道では
(start) (Hokkaido)
Failure
OUTPUT: in Hokkaido greeted tourism season
HUMAN : in Hokkaido as the tourism season
Learning Inferable Expression
Predicate
Outline
• Verb phase (VP) aligned corpus
– How to build VP-aligned-corpus
– Investigation of VP-aligned-corpus
• Method
• Experiment
• Conclusion
VP-aligned-corpus
• Motivation
– Verb-phrase translation is difficult
⇒To learn how to translate verb-phrases, we annotated
verb-phrases and their correspondences.
• Process
– Estimate alignment automatically
– Modify alignment by hand
• Target
– NHK-News-Corpus
NHK-News-Corpus
• NHK is a Japanese broadcasting corporation
• Japanese articles are translated to be natural as
English news ⇒ not parallel corpus
田植えフェスティバル石川県輪島市で外国の大使や一般の参加者など千
人あまりが急な斜面の棚田で田植えを体験する催しが行われました。
輪島市白米町には(しろよねまち)千枚田と呼ばれる(せんまいだ)大小二
千百枚の棚田が急な斜面から海に向かって拡がっています。
田植え体験は農作業を通して米作りの意義などを考えていこうという地球
環境平和財団の呼び掛けで開かれたもので、海外三十四ヵ国の大使や書
記官、それに一般の参加者ら合わせておよそ千人が集まりました。
田植えに使われた苗は去年の秋、天皇陛下が皇居で収穫された稲籾から
育てたものです。
参加者たちは裸足になって水田に足を踏み入れ地元に伝わる田植え歌に
合わせて慣れない手つきで苗を植えていました。
きょうの輪島市は雲が広がったもののまずまずの天気となり、出席された
高円宮さまも海からの風に吹かれながら田植えに加わっていました。
地球環境平和財団では今年の夏休みに全国の子どもたちを対象に草刈り
や生きものの観察会を開く他、秋には稲刈体験を行なう予定にしています。
Ambassadors and diplomats from 37 countries took part
in a rice planting festival on Sunday in small paddies on
steep hillsides in Wajima, central Japan.
About one-thousand people gathered at the hill, where
some two-thousand 100 miniature paddies, called
Senmaida, stretch toward the Sea of Japan.
The event was organized by the private Foundation for
Global Peace and Environment.
The rice seedlings are grown from grain harvested by the
Emperor at the Imperial Palace in Tokyo last autumn.
Barefoot participants waded into the paddies to plant the
seedlings by hand while singing a local folk song about
the practice of rice planting.
NHK-News-Corpus
• Some phrases has no parallel expressions
in the other language.
田植えフェスティバル石川県輪島市で外国の大使や一般の参加者など千
人あまりが急な斜面の棚田で田植えを体験する催しが行われました。
輪島市白米町には(しろよねまち)千枚田と呼ばれる(せんまいだ)大小二
千百枚の棚田が急な斜面から海に向かって拡がっています。
田植え体験は農作業を通して米作りの意義などを考えていこうという地球
環境平和財団の呼び掛けで開かれたもので、海外三十四ヵ国の大使や書
記官、それに一般の参加者ら合わせておよそ千人が集まりました。
田植えに使われた苗は去年の秋、天皇陛下が皇居で収穫された稲籾から
育てたものです。
参加者たちは裸足になって水田に足を踏み入れ地元に伝わる田植え歌に
合わせて慣れない手つきで苗を植えていました。
きょうの輪島市は雲が広がったもののまずまずの天気となり、出席された
高円宮さまも海からの風に吹かれながら田植えに加わっていました。
地球環境平和財団では今年の夏休みに全国の子どもたちを対象に草刈り
や生きものの観察会を開く他、秋には稲刈体験を行なう予定にしています。
Ambassadors and diplomats from 37 countries took part
in a rice planting festival on Sunday in small paddies on
steep hillsides in Wajima, central Japan.
About one-thousand people gathered at the hill, where
some two-thousand 100 miniature paddies, called
Senmaida, stretch toward the Sea of Japan.
The event was organized by the private Foundation for
Global Peace and Environment.
The rice seedlings are grown from grain harvested by the
Emperor at the Imperial Palace in Tokyo last autumn.
Barefoot participants waded into the paddies to plant the
seedlings by hand while singing a local folk song about
the practice of rice planting.
Alignment Estimation
• DP matching Sentence alignment using translation
dictionaries
• Extract 1-to-1 sentence pairs
• Parse and Phrasal alignment [Aramaki et al., 2003]
田植えフェスティバル石川県輪島市で外国の大使や一般の参加者など千
人あまりが急な斜面の棚田で田植えを体験する催しが行われました。
輪島市白米町には(しろよねまち)千枚田と呼ばれる(せんまいだ)大小二
千百枚の棚田が急な斜面から海に向かって拡がっています。
田植え体験は農作業を通して米作りの意義などを考えていこうという地球
環境平和財団の呼び掛けで開かれたもので、海外三十四ヵ国の大使や書
記官、それに一般の参加者ら合わせておよそ千人が集まりました。
田植えに使われた苗は去年の秋、天皇陛下が皇居で収穫された稲籾から
育てたものです。
参加者たちは裸足になって水田に足を踏み入れ地元に伝わる田植え歌に
合わせて慣れない手つきで苗を植えていました。
きょうの輪島市は雲が広がったもののまずまずの天気となり、出席された
高円宮さまも海からの風に吹かれながら田植えに加わっていました。
地球環境平和財団では今年の夏休みに全国の子どもたちを対象に草刈り
や生きものの観察会を開く他、秋には稲刈体験を行なう予定にしています。
Ambassadors and diplomats from 37 countries took part
in a rice planting festival on Sunday in small paddies on
steep hillsides in Wajima, central Japan.
About one-thousand people gathered at the hill, where
some two-thousand 100 miniature paddies, called
Senmaida, stretch toward the Sea of Japan.
The event was organized by the private Foundation for
Global Peace and Environment.
The rice seedlings are grown from grain harvested by the
Emperor at the Imperial Palace in Tokyo last autumn.
Barefoot participants waded into the paddies to plant the
seedlings by hand while singing a local folk song about
the practice of rice planting.
Alignment Modification
• We modified alignment by hand (5,500 sentence-pairs)
(1) VP or not
VP:= phrase includes a verb or an adjective that has an argument
(2) For VP, its corresponding phrases
VP has no corresponding
phrases
Investigation of Corpus
Where does a Japanese phrase corresponds in English?
Japanese : English
VP : VP
VP : φ Condensed Alignment Pattern
Others
VP : NP or PP
VP : Others
#
9779
1149
6831
5682
716
319
カナダで
(Canada)
開かれた
(be held)
通商会議で
(trade conference)
at a trade conference
in Canada
Investigation of Corpus
•Where
VP-φdoes
often
occurs with
Condensed
a Japanese
phrase
correspondsAlignment
in English?
Pattern (or CAP)
Japanese : English
VP : VP
C’
C
VP : φ Condensed Alignment Pattern
VP
Others
P
P’
#
9779
1149
6831
5682
VP : NP or PP
716
VP : Others
319
If a VP
in a CAP is always inferable
カナダで
(Canada)
⇒We
can
achieve
a
compact
translation
開かれた
at a trade conference
omitting the VP .
(beby
held)
in Canada
通商会議で
(trade conference)
VP in CAP is inferable
• We randomly extracted 80 CAPs, checked
whether VP s are inferable or not
C’
C
VP
P
inferable
not
P’
56
Parse Error
3
Alignment Error
11
Phrase Chunking Error
1
Others
9
VP in CAP is inferable
• We randomly extracted 80 CAPs and checked
whether VP s are inferable or not
C’
C
VP
P
Inferable
Not
P’
P-CONTEXT
21
C-CONTEXT
16
PC-CONTEXT
19
Parse Error
3
Alignment Error
11
Phrase Chunking Error
1
Others
9
P (Parent)-CONTEXT
カナダで
(Canada)
開かれた 会議で ~
(be held) (conference)
at a conference in Canada …
カナダで
C (Canada)
P’ at a conference
開かれた
VP (be held)
会議で
P (conference)
C’ in Canada
C (Child)-CONTEXT
肺の病気に
(lung disease)
かかった 男性の ~
(suffer)
(man)
the man with a lung disease …
肺の
(lung)
P’ the man
病気に
C (disease)
かかった
VP (suffer)
P 男性の
(man)
C’ with a lung disease
PC-CONTEXT
各国から 派遣された 救助チームの ~
(countries) (sent)
(rescue team)
rescue teams form countries …
各国から
C (countries)
P’ rescue teams
派遣された
VP (sent)
救助チームの
P (rescue team)
C’ from counties
VP in CAP is inferable
• We randomly extracted 80 CAPs and checked
whether VP s are inferable or not
C’
C
VP
P
Inferable
Not
P’
P-CONTEXT
21
C-CONTEXT
16
PC-CONTEXT
19
Parse Error
3
Alignment Error
11
Phrase Chunking Error
1
Others
9
Outline
• Verb phase aligned corpus
• Method
• Experiments
• Conclusion
Basic Idea
• Incorporate CAPs into translation examples
Alignment
カナダで
(Canada)
Translation Examples
in Canada
カナダで
開かれた
会議で
(conference)
in Canada
(Canada)
(be held)
at a conference
• Generalize TEs
P-CONTEXT ⇒ Generalize C
C-CONTEXT ⇒ Generalize P
会議で
(conference)
カナダで
at a conference
X
(Canada)
in
X Canada
開かれた
(be held)
会議で
(conference)
at a conference
Automatic Classification
Divide CAPs into 2 fragments and count frequencies
ロンドンで
C (London)
シンガポールで
C
開かれた
(Singapore)
VP (be開かれた
held)
VP
会議で (be held)
P 会議で
P(conference)
(conference)
C’ in London
C’ in Singapore
P’ at a conference
P’ at a conference
Fragment Frequency
Fragments which include “開く (held)”
V
開く
(held)
P
会議
会合
集会
C
C’
Canada
カナダ
Lyon
リヨン
シンガポール Singapore
ロンドン
V
開く
(held)
London
P’
conference
meeting
gathering
Freq
4
4
3
3
Freq
17
2
1
Automatic Classification
Divide CAPs into 2 fragments and count frequencies
freq(C) =4
freq(P) =17
freq(C) > freq(P) x C2
freq(P) > freq(C) x C2
⇒ C-CONTEXT
⇒ P-CONTEXT
Otherwise
⇒ PC-CONTEXT
Translation Framework
Input
東京で
(Tokyo)
開かれた
Translation Examples
東京
Tokyo
(Tokyo)
(be held)
会議で
(conference)
Translation Examples (=CAP)
X
in Canada
開かれた
(be held)
Output
at a conference
in Tokyo
*会議で
( * conference)
X
Outline
• Verb phase aligned corpus
• Method
• Experiments
• Conclusion
Preparation for Experiments
• Extract 30,000 1-to-1 sentence pairs
• Automatically estimate phrasal alignments
• Extract and classify 4,219 CAPs
#
P-CONTEXT
1120
C-CONTEXT
297
PC-CONTEXT
2802
Experiments
Judgments of CAP Classifications are subjective task.
⇒ Evaluation by full Translation using generalized
CAPs
• Translation
– Direction:
Japanese-English translation
– Test-set:
240 lead (top)-sentences of NHK-News-Corpus
– Evaluation:
BLEU-score (4 references)
Methods & Results
• Methods
– BASELINE : EBMT without CAPs
– CAPMT
: EBMT using CAPs
– CAPMT+ : EBMT using generalized CAPs
BLEU
BASELINE
24.6
CAPMT
24.8
CAPMT+
25.0
Example
INPUT
アメリカのメリーランド州で十四日に
れた航空ショーで・・・
REF
An air show in the US state of
Maryland on the 14th
BASELINE Air show was held in maryland of the
united states on the 14th ...
CAP+
Air show in maryland of the united
states on the 14th ...
Example
INPUT
二十五日に行われる日韓首脳会談に ...
REF
... summit due to be held on the 25th
BASELINE ... summit meeting conducted on 25th
CAP+
... summit meeting on 25th
Outline
• Verb phase aligned corpus
• Method
• Experiments
• Conclusion
Conclusion
• VP-aligned-Corpus
– How to build the corpus
– Investigations of the corpus
• Method for translations without saying inferable
predicate
• Future work
– A human translates inferable expressions with a
certain context
– We have to deal with larger context