앙상블을 이용한 기계학습 기법의 설계: 뜰개 이동경로 예측을 통한 실험적 검증 = Ensemble Design of Machine Learning Technigues: Experimental Verification by Prediction of Drifter Trajectory

다국어 초록 (Multilingual Abstract)

The ensemble is a unified approach used for getting better performance by using multiple algorithms in
machine learning. In this paper, we introduce boosting and bagging, which have been widely used in
ensemble techniques, and design a method using support vector regression, radial basis function network,
Gaussian process, and multilayer perceptron. In addition, our experiment was performed by adding a
recurrent neural network and MOHID numerical model. The drifter data used for our experimental
verification consist of 683 observations in seven regions. The performance of our ensemble technique is
verified by comparison with four algorithms each. As verification, mean absolute error was adapted. The presented methods are based on ensemble models using bagging, boosting, and machine learning. The error
rate was calculated by assigning the equal weight value and different weight value to each unit model in
ensemble. The ensemble model using machine learning showed 61.7% improvement compared to the
average of four machine learning technique.

국문 초록 (Abstract)

앙상블 기법은 기계학습에서 다수의 알고리즘을 사용하여 더 좋은 성능을 내기 위해 사용하는 방
법이다. 본 논문에서는 앙상블 기법에서 많이 사용되는 부스팅과 배깅에 대해 소개를 하고, 서포트벡
터 회귀, 방사기저함수 네트워크, 가우시안 프로세스, 다층 퍼셉트론을 이용하여 설계한다. 추가적으
로 순환신경망과 MOHID 수치모델을 추가하여 실험을 진행한다. 실험적 검증를 위해 사용하는 뜰개
데이터는 7 개의 지역에서 관측된 683 개의 관측 자료다. 뜰개 관측 자료를 이용하여 6 개의 알고리
즘과의 비교를 통해 앙상블 기법의 성능을 검증한다. 검증 방법으로는 평균절대오차를 사용한다. 실
험 방법은 배깅, 부스팅, 기계학습을 이용한 앙상블 모델을 이용하여 진행한다. 각 앙상블 모델마다
동일한 가중치를 부여한 방법, 차등한 가중치를 부여한 방법을 이용하여 오류율을 계산한다. 가장 좋
은 오류율을 나타낸 방법은 기계학습을 이용한 앙상블 모델로서 6 개의 기계학습의 평균에 비해
61.7%가 개선된 결과를 보였다.

목차 (Table of Contents)

• 1. 서론
• 2. 기법 개요
• 3. 성능 검증 및 실험 환경
• 4. 모델 설계 및 실험 결과
• 5. 결론
• References

참고문헌 (Reference)

1 G. Tilmann, "Weather forecasting with ensemble methods" 310 (310): 248-249, 2005

2 MOHID, "Water Modeling System"

3 Basak, Debasish, "Support vector regression" 11 (11): 203-224, 2007

4 Mikolov, T., "Recurrent neural network based language model" 2010

5 B. Albert, "New ensemble methods for evolving data streams" ACM 139-148, 2009

6 Orr, Mark J. L., "Introduction to Radial Basis Function Networks" Institute for Adaptive and Neural Computation, Edinburgh Univ 1996

7 Rasmussen, Carl E., "Gaussian Processes for Machine Learning" MIT press 2006

8 Y. Freund, "Experiments with a new boosting algorithm" 96 : 1996

9 L. Breiman, "Bagging predictors" 24 (24): 123-140, 1996

10 Gardner, Matt W., "Artificial neural networks (the multilayer perceptron)—a review of applications in the atmospheric sciences" 32 (32): 2627-2636, 1998