계층별 메트릭 생성을 이용한 계층적 Gaussian ARTMAP의 설계 = A Design of Hierarchical Gaussian ARTMAP using Different Metric Generation for Each Level

국문 초록 (Abstract)

본 논문에서는 아날로그 데이터 처리가 가능하고, 온라인 학습, 학습 중 새로운 클래스 추가등의 특징을 가진 패턴 인식기를 제안하였다. 제안한 패턴 인식기는 계층적 구조를 가지고 있으며, 각 레벨별로 서로 다른 메트릭을 적용하여 분류 성능을 향상 시켰다. 제안한 패턴 인식기는 신경망 기반의 패턴 인식 알고리즘인 Gaussian ARTMAP 모델을 기반으로 하고 있다. Gaussian ARTMAP 모델을 계층적으로 구성하고, 계층마다 서로 다른 특징을 학습하도록 하기 위하여 Principal Component Emphasis(P.C.E) 방법을 제안하였으며, 이를 이용하여 새로운 메트릭을 생성하는 방법을 제안하였다. P.C.E는 학습된 입력 데이터들의 분산을 이용하여 클래스 내의 공통 속성을 나타내는 분산이 작은 차원을 제거하고 패턴 간의 서로 다른 속성을 나타내는 분산이 큰 차원만 유지하는 방법이다. 제안한 알고리즘의 학습 과정에서 교사 신호와 다르게 분류된 패턴이 발생하면 잘못 분류 된 클래스와 입력된 패턴을 분리하기 위하여 P.C.E를 수행하고 하위 노드에서 학습하게 된다. 실험 결과 제안한 모델은 기존에 제안된 패턴 인식 모델들 보다 높은 분류 성능을 가지고 있음을 확인하였다.

다국어 초록 (Multilingual Abstract)

In this paper, we proposed a new pattern classifier which can be incrementally learned, be added new class in learning time, and handle with analog data. Proposed pattern classifier has hierarchical structure and the classification rate is improved by using different metric for each levels. Proposed model is based on the Gaussian ARTMAP which is an artificial neural network model for the pattern classification. We hierarchically constructed the Gaussian ARTMAP and proposed the Principal Component Emphasis(P.C.E) method to be learned different features in each levels. And we defined new metric based on the P.C.E. P.C.E is a method that discards dimensions whose variation are small, that represents common attributes in the class. And remains dimensions whose variation are large. In the learning process, if input pattern is misclassified, P.C.E are performed and the modified pattern is learned in sub network. Experimental results indicate that Hierarchical Gaussian ARTMAP yield better classification result than the other pattern recognition algorithms on variable data set including real applicable problem.

목차 (Table of Contents)

• 요약
• Abstract
• 1. 서론
• 2. Gaussian ARTMAP의 구조와 동작
• 3. 계층적 Gaussian ARTMAP의 제안
• 4. 실험 및 결과 분석
• 5. 결론
• 참고문헌

참고문헌 (Reference)

1 김승석, "계층적 클러스터링과 Gaussian Mixture Model을 이용한 뉴로-퍼지 모델링" 한국지능시스템학회 13 (13): 512-519, 2003

2 "UC Irvine Machine Learning Repository"

3 Dasgupta, S., "Performance guarantees for hierarchical clustering" 70 (70): 555-569, 2005

4 Xu, H., "Mahalanobis distance-based ARTMAP network" 3 : 2353-2359, 2004

5 Williamson, J. R., "Gaussian ARTMAP: A Neural Network for Fast Incremental Learning of Noisy Multidimensional Maps" 9 (9): 881-897, 1996

6 Carpenter, G.A., "Fuzzy ART: Fast stable learning and categorization of analog patterns by an adaptive resonance system" 4 : 759-771, 1991

7 Bennett, K. P., "Exploiting unlabeled data in ensemble methods" 289-296, 2002

8 Athitsos, V., "Boosting nearest neighbor classifiers for multiclass recognition" 45-45, 2005

9 Dagher, I., "Art networks with geometrical distances" 4 (4): 538-553, 2006

10 Bartfai, G., "An ART-based Modular Architecture for Learning Hierarchical Clusterings" 13 : 31-45, 1996

11 Fraley, C., "Algorithms for model-based Gaussian Hierarchical Clustering" 20 (20): 270-281, 1998

12 Carpenter, G.A, "ARTMAP: A self‑organizing neural network architecture for fast supervised learning and pattern recognition" 565-588, 1991

13 Liu, H., "A monotonic measure for optimal feature selection" 101-106, 1998