앙상블 머신러닝 기법의 하이퍼파라미터 최적화와 특징선택을 통한 개인적 요인을 이용한 위치 방문 선호도 예측가능성

다국어 초록 (Multilingual Abstract)

In this paper, human location information is regressed by machine learning to predict the visiting ratio for a specific location category. The location data collected by the participants using the smartphone. Personal factors obtained through the questionnaire. We analyzed location data and personal factors by three ensemble techniques of machine learning: random forest, XGBoost, and stacking. A total of 34 participants collected their location data for 3 to 6 months. Before the learning of the machine learning model, the feature selection process was performed, and then the features influencing the results were extracted and tested. In addition, Grid search, Random search, and Bayesian optimization are used to optimize the hyperparameters ​​that affect the performance of the ensemble model. As a result, it was confirmed that the performance of the model can be improved through optimization of hyperparameters. Also, meaningful prediction accuracy values ​​were obtained, except for the two location categories, in which data were insufficient due to the fact that the experiment participants rarely visited. These results were revealed through three machine learning techniques to increase the reliability of the results.

국문 초록 (Abstract)

본 논문에서는 인간의 위치 정보를 머신러닝으로 회귀 분석하여 특정 장소 카테고리에 대한 방문 비율을 예측한다. 실험 참가자들이 스마트폰을 이용하여 수집한 위치 데이터와 설문을 통해 얻은 개인적 요인들을 머신러닝의 세 가지 앙상블 기법인 랜덤 포레스트, XGBoost, Stacking 으로 분석하였다. 총 34명의 실험 참가자들이 3~6개월 간 수집한 위치 데이터를 사용하였다. 머신러닝 모델의 학습에 앞서 특징 선택 과정을 수행하여 수집한 모든 개인적 요인이 아닌 결과에 영향을 미치는 요인들을 따로 뽑아 낸 뒤 실험하였다. 또한 모델의 성능에 영향을 미치는 하이퍼파라미터 값을 최적화하기 위해 Grid 탐색, Random 탐색, 베이지안 최적화 방법을 이용하였다. 그 결과 하이퍼파라미터 최적화를 통해 모델의 성능을 향상시킬 수 있음을 확인하였다. 또한, 실험 참가자들이 방문을 거의 하지 않아 데이터가 부족했던 두 가지 장소 카테고리 외에는 의미 있는 예측 정확도 값을 얻었다. 이러한 결과는 세 가지 머신러닝 기법을 통해 밝힘으로써 결과의 신뢰도를 높였다.

목차 (Table of Contents)

• 국문요약 i
• 그림차례 iii
• 표차례 iv
• 제 1장 서론 1
• 제 2장 관련연구 2
• 2.1 결정트리 2
• 2.2 부트스트랩 3
• 2.3 앙상블 기법 4
• 2.4 랜덤 포레스트 5
• 2.5 XGBoost 6
• 2.6 Stacked Generalization 7
• 2.7 특징 선택 7
• 2.8 하이퍼파라미터 최적화 8
• 2.9 Big 5 성격요인 11
• 제 3장 실험 11
• 3.1 개인적 요인 12
• 3.2 위치 방문 데이터 17
• 3.3 하이퍼파라미터 최적화 탐색 공간 19
• 3.4 SMAPE 20
• 제 4장 실험 결과 및 분석 21
• 제 5장 결론 40
• 참고문헌 42
• 영문요약 46