RISS 검색 - 국내학술지논문 상세보기

국문 초록 (Abstract)

본 연구에서는 MASS를 이용해 사전 학습 모델을 구축하고 병렬 데이터로 파인 튜닝하여 한국어-영어와 한국어-일본어 기계 번역 모델을 구축한다. 한국어, 일본어, 영어는 모두 다른 문자 체...

본 연구에서는 MASS를 이용해 사전 학습 모델을 구축하고 병렬 데이터로 파인 튜닝하여 한국어-영어와 한국어-일본어 기계 번역 모델을 구축한다. 한국어, 일본어, 영어는 모두 다른 문자 체계를 사용한다. 한국어와 일본어는 주어-목적어-동사의 어순을 갖는 반면 영어는 주어-동사-목적어의 어순을 갖는다. 본 연구에서는 신경망 기반의 기계 번역을 구축할 때 두 언어 사이의 문자 체계를 공유하는 여부와 문장 어순의 유사성에 따른 기계번역의 성능을 평가해 보았다. 모델의 성능 차이를 단어 임베딩을 통해 분석해 보기 위해 어휘 번역 실험과 문장 검색 기계 번역 실험을 수행하였다. 실험 결과 인코더의 단어 임베딩이 디코더에 비해 훨씬 중요하고 한국어-영어보다는 한국어-일본어의 경우 더 좋은 성능을 발휘함을 알 수 있었다. 문장 검색 기계 번역 실험에서 한국어-영어의 경우에는 소량의 병렬 데이터만으로도 큰 폭의 성능 향상이 관찰되었다.

다국어 초록 (Multilingual Abstract)

In this study, we have pre-trained MASS models and built neural machine translation (NMT) systems for Korean-English and Korean-Japanese based on them. Korean, Japanese, and English use different writing scripts. Korean and Japanese are Subject-Object-Verb languages, while English is a Subject-Verb-Object language. In this study, we have evaluated the performances of NMT systems according to the similarity between languages, such as word order and writing scripts. To compare the performances of NMT models from the perspective of word embeddings, we have conducted the following two experiments: word translation and sentence translation retrieval using word embedding learned by NMT models. The accuracies of word translation and sentence translation for word embeddings of a Korean-Japanese NMT model were higher than those of a Korean-English pair. Moreover, the word embeddings learned by an encoder were more important than those learned by a decoder when used in NMT. Based on the result of sentence translation retrieval of a Korean-English NMT model, we found that a Korean-English unsupervised NMT model could be significantly improved when trained even with a small amount of parallel data.

목차 (Table of Contents)

요약
Abstract
1. 서론
2. 관련 연구
3. MASS 기반 한국어-영어/일본어 기계 번역 모델

요약
Abstract
1. 서론
2. 관련 연구
3. MASS 기반 한국어-영어/일본어 기계 번역 모델
4. 데이터 및 실험 환경
5. 실험 결과 및 분석
6. 결론
References

참고문헌 (Reference)

1 KOZMA, Laszlo, "k Nearest Neighbors algorithm (kNN)" Helsinki University of Technology 2008

2 Lample, Guillaume, "Word Translation without Parallel Data" 2018

3 Matthew S. Dryer and Martin Haspelmath, "WALS Online. Max Planck Institute for Evolutionary Anthropology"

4 Lample, Guillaume, "Phrase-Based & Neural Unsupervised Machine Translation" 5039-5049, 2018

5 Sennrich, Rico, "Neural Machine Translation of Rare Words with Subword Units" 1 : 1715-1725, 2016

6 Bahdanau, Dzmitry, "Neural Machine Translation by Jointly Learning to Align and Translate" 2015

7 이공주 ; 김지은 ; 이성욱, "MOSES를 이용한 한/일 양방향 통계기반 자동 번역 시스템" 한국마린엔지니어링학회 36 (36): 683-693, 2012

8 정영준 ; 박천음 ; 이창기 ; 김준석, "MASS와 상대 위치 표현을 이용한 영어-한국어 신경망 기계 번역" 한국정보과학회 47 (47): 1038-1043, 2020

9 Song, Kaitao, "MASS: Masked Sequence to Sequence Pre-Training for Language Generation" 5926-5936, 2019

10 Park, Yeongjoon, "Korean-English Neural Machine Translation Using Transfer Learning" 595-597, 2018