문서 기반 대화 생성을 위한 개선된 타겟 증강 및 자가 가이드된 응답 생성 = Self-guided Document-grounded Dialogue Generation with Improved Target Augmentation

다국어 초록 (Multilingual Abstract)

Many works on dialogue systems have developed a knowledge-grounded dialogue system to incorporate knowledge into dialogue. MultiDoc2Dial is a realistic task that dialogue flow shifts relevant grounding content among different documents dynamically in a conversation. In this paper, we employ a pipeline system of retriever, re-ranker, generator. We propose an improved target-side data augmentation approach that narrows the gap in the decoding procedure between train and inference. Furthermore, we propose multi-task learning, which includes grounding span and dialog act prediction, as a single sequence generation for document-grounded dialogue generation. We evaluate our methods on the validation set of MultiDoc2Dial dataset, obtaining state-of-the-art results on both seen and unseen settings.

국문 초록 (Abstract)

최근 지식을 대화에 통합하는 지식 기반 대화 시스템에 대한 많은 연구가 이루어진다. MultiDoc2Dial은 대화 흐름에 따라 서로 다른 문서에 기반한 대화가 이루어지는 현실적인 태스크이다. 본 논문에서는 retriever, re-ranker, generator의 파이프라인 시스템을 사용한다. 우리는 디코딩 단계에서 훈련과 추론 사이의 차이을 좁히는 개선된 target 측 데이터 증강 방법을 제안하고 또한, 문서 기반 대화 생성을 위한 단일 시퀀스 생성으로 grounding span 및 dialog act 예측을 포함하는 다중 작업 학습을 제안한다. MultiDoc2Dial 데이터 세트의 validation 데이터 상에서 우리가 제안한 방법론을 평가한 결과 seen setting과 unseen setting 모두에서 State-of-the-Art 성능을 달성하였다.

목차 (Table of Contents)

• 1. Introduction 1
• 2. Related Work 3
• 2.1. Generative Question Answering 3
• 2.2. Knowledge-Grounded Dialogue system 3
• 2.3. Target-side data augmentation 4
• 3. Backgrounds 5
• 3.1. Retriever 5
• 3.2. Re-ranker 6
• 3.3. Generator 7
• 4. Method 9
• 4.1. Task Description 9
• 4.2. Passage retrieval 9
• 4.3. Response generator 10
• 4.3.1. Improved target-side data augmentation 10
• 4.3.2. Self-guided response generation 11
• 5. Experiments 13
• 5.1. Experimental Setup 3
• 5.1.1. Passage Retrieval 13
• 5.1.2. Evaluation Metrics 14
• 5.1.3. Implementation Details 15
• 5.2. Main results 15
• 5.3. Ablation study 16
• 5.3.1. Investigation of the self-guided response generation 17
• 5.3.2. Investigation of iterative data augmentation 17
• 6. Conclusion 18
• Bibliography 19
• 요 약 23