대조 학습 기반 사전 학습과 생성 모델의 시너지 탐구

국문 초록 (Abstract)

최근 들어 비지도 학습(unsupervised learning)은 다양한 분야에서 연구되고 적용되며 많은 주목을 받고 있다. 그리고 다양한 비지도 학습방법 중 최근 긍정적인 샘플(positive sample)과 부정적인 샘플(negative sample)간의 유사성과 비 유사성을 학습하는 대조 학습(contrastive learning)을 이용한 사전 학습(pre-training) 방법이 많은 관심을 받으며 연구되고 있다. 이러한 사전 학습 방법은 컴퓨터 비전 등의 분야에서 지도 학습시 데이터의 부족이나 새로운 데이터가 주어졌을 때 정확도 감소 등의 문제를 해결하기 위해 연구되고 있다. 본 논문에서는 이전 연구들의 우수한 결과를 통해 주요 방법론으로 대두되고 있는 대조 학습을 이용하여 생성 모델(generative model)을 사전 학습하고 실제 사용자로부터 얻어진 고차원 센서 데이터를 저차원의 잠재 공간(latent space)상에 표현하고 그 결과를 비교함으로써 사전 학습과 생성 모델의 시너지를 탐구하였다.