조절 가능한 단순화 그래프 확산 신경망 연구 = A Study on Adjustable and Simplified Graph Diffusion Neural Networks

국문 초록 (Abstract)

그래프 합성곱 신경망(graph convolutional networks, GCN)는 그래프 정보를 활용하기 위한 효과적인 심층 학습 모델로 분류뿐 아니라 오토 인코더 모델과 함께 링크 예측에서도 사용되며, 그 성능 또한 우수한 것으로 확인되었다. 하지만, GCN의 그래프 필터는 1-홉(hop) 또는 2-홉 이웃 노드의 정보만을 활용하는 데에 한정되어 있다. 확장된 범위의 이웃 노드 정보를 활용하기 위해 그래프 확산 합성곱 신경망 모델은 GCN에 그래프 확산 연산을 적용했지만, 지나치게 높은 밀도를 가지는 행렬을 계산하는 과정을 거쳐야 하는 문제가 있으며 잠재적으로 노드 특성의 지나친 획일화(over-smoothing) 문제도 야기할 수 있다. 본 연구에서 제안하는 단순화 그래프 확산은, 정규화된 인접 행렬의 n제곱 행렬만을 이용함으로써 이러한 문제들을 방지하며, 확산 조절 파라미터를 도입해 효과적인 정보 전파 조절이 가능하도록 한다. 제안한 모델에 대한 검증 실험은 링크 예측과 준지도 분류로 나누어 수행되었으며, 단순화 그래프 확산을 이용한 모델이 전반적으로 기존 모델의 성능을 향상시키는 양상이 확인되었다.

다국어 초록 (Multilingual Abstract)

Graph convolutional networks(GCNs) have become an effective deep learning framework to leverage graph information. The graph convolution mechanism is used in classification tasks and utilized in link prediction tasks with auto encoder models. However, the graph filter of GCNs is limited to aggregate feature information from 1- or 2-hop neighborhoods. Recent graph diffusion neural network models applied diffusion operation on GCNs to use multi-hop information. But it needs to calculate a fully dense matrix which cause computational inefficiency. Furthermore, the polynomial form of graph diffusion might lead to over-smoothing problem. This study proposed simplified graph diffusion which uses n-th power of normalized adjacency matrix with diffusion control parameter. Both link prediction and semi-supervised classification experiments are conducted and models with simplified graph diffusion showed better performance compared to existing approaches.

목차 (Table of Contents)

• 요약 ⅰ
• 표목차 iv
• 그림목차 iv
• I. 서론 1
• 1. 연구 배경 1
• 2. 연구 목적 1
• 3. 연구 방법 2
• 4. 논문 구성 2
• II. 관련 연구 3
• 1. 표기 3
• 2. 배경 이론 3
• 2.1 그래프 합성곱 신경망 3
• 2.2 그래프 오토인코더, 변분 그래프 오토인코더 5
• 3. 그래프 확산 신경망 관련 연구 7
• 3.1 그래프 확산 신경망 7
• 3.2 확산 조절 파라미터 9
• III. 연구 방법 10
• 1. 단순화 그래프 확산 10
• 2. 데이터셋 10
• 3. 실험 설정 11
• 3.1 링크 예측 11
• 3.2 준지도 분류 12
• IV. 실험 결과 14
• 1. 링크 예측 및 준지도 분류 실험 결과 14
• 2. 파라미터 민감도 16
• 3. 확산 조절 파라미터 비교 18
• V. 결론 19
• 1. 연구 결론 19
• 2. 연구 한계점 20
• 참고문헌 21
• 부록 24
• 영문초록(Abstract) 29