유전자 알고리즘을 이용한 분류자 앙상블의 최적 선택

국문 초록 (Abstract)

앙상블 학습은 분류 및 예측 알고리즘의 성과개선을 위하여 제안된 기계학습 기법이다. 그러나 앙상블 학습은 기저 분류자의 다양성이 부족한 경우 다중공선성 문제로 인하여 성과개선 효과가 미약하고 심지어는 성과가 악화될 수 있다는 문제점이 제기되었다. 본 연구에서는 기저 분류자의 다양성을 확보하고 앙상블 학습의 성과개선 효과를 제고하기 위하여 유전자 알고리즘 기반의 범위 최적화 기법을 제안하고자 한다. 본 연구에서 제안된 최적화 기법을 기업부실예측 인공신경망 앙상블에 적용한 결과 기저 분류자의 다양성이 확보되고 인공신경망 앙상블의 성과가 유의적으로 개선되었음을 보여주었다.

참고문헌 (Reference)

1 김명종, "기업부실화 예측에 대한 앙상블 학습의 성과 비교" 엘지씨엔에스 8 (8): 41-49, 2009

2 Quinlan, J. R., "agging, boosting and C4.5. Machine Learning" 725-730, 1996

3 Hansen, L., "Neural network ensembles" PAMI 12 : 993-1001, 1990

4 Ho, T. K., "Multiple classifier combination: lessons and next steps, in Hybrid Methods in Pattern Recognition"

5 Alfaro, E., "Multiclass corporate failure prediction by AdaBoost.M1" 13 : 301-312, 2007

6 Maia, T. T., "Hybrid classification algorithms based on boosting and support vector machines" 37 (37): 1469-1491, 2008

7 Oliveira, L. S., "Feature selection for ensembles : a hierarchical multi-objective genetic algorithm approach"

8 Zhou, Z. H., "Ensembling neural networks: many could better than all" 137 : 239-263, 2002

9 Buciu, I., "Combining support vector machines for accuracy face detection" 1054-1057, 2001

10 Kim, Y. W., "Classifier ensemble selection using hybrid genetic algorithms" 29 (29): 796-802, 2008

11 Evgeniou, T., "Bound on the generalization performance of kernel machine ensembles" 271-278, 2000

12 Drucker, H., "Boosting decision trees" 8 : 1996

13 Alfaro, E., "Bankruptcy forecasting : an empirical comparison of AdaBooost and neural networks" 45 : 110-122, 2008

14 Breiman, L., "Bagging predictors" 24 (24): 123-140, 1996

15 Valentini, G., "Bagged ensembles of SVMs or gene expression data analysis" 1844-1849, 2003

16 Fawcett, T., "An introduction to ROC analysis" 27 : 861-874, 2006

17 Bauer, E., "An empiricalcomparison of voting classification algorithms : Bagging, boosting, and variants" 36 : 105-139, 1999

18 Maclin, R., "An empirical evaluation of bagging and boosting" 546-551, 1997

19 Kim, M. J., "An Ensemble with neural networks for bankruptcy prediction" 37 : 3373-3379, 2010

20 Freund, Y., "A decision theoretic generalization of online learning and an application to boosting" 55 (55): 119-139, 1997

21 Dong, Y. S., "A comparison of several ensemble methods for text categorization" 2004