학습속도 향상을 위한 수정 오류 역전파 알고리즘 = Modified Error Back-Propagation Algorithm for Improvement of Learning Speed

국문 초록 (Abstract)

다층 신경망(MLN : Multi-Layer Neural network) 학습에 표준 역전파(BP:Back Propagation) 알고리즘을 사용하는 경우, 학습 속도가 매우 느리기 때문에, 속도를 개선하려는 많은 수정 알고리즘이 제안되었다. 이 논문에서는 BP 알고리즘의 학습 과정을 기하학적으로 분석하고, 이를 바탕으로 학습 속도를 개선하는 수정된 BP 알고리즘을 제안하였다. 수정 알고리즘에서는 최종 출력공간의 중점(center)벡터와 목표벡터와의 차이(difference)를 역전파하여, 연결 가중치 수정량을 효과적으로 정하도록 하였다. 또한, 대표적인 비선형 문제인 XOR 및 많은 연결을 갖는 7-세그먼트 표시 문제에 대하여, 제안된 알고리즘의 성능을 실험하고, 특징 및 개선 방향을 제시하였다.

다국어 초록 (Multilingual Abstract)

The standard BP algorithm is exceedingly slow in a Multi-Layer Neural network learning, and many modified algorithms have been suggested to improve it In this paper, we analysed the geometry of the learning process of the BP algorithm and based on this analysis we proposed a modification to the algorithm for improvement of learning speed. In the modified algorithm, we set weight changes effectively by backward propagating the difference vector between the output space center vector and target vector. We evaluated our algorithm by experimenting with the XOR problem and 7-segment display problem. We also discussed some of important features and further improvements to be made.

목차 (Table of Contents)

• 요약
• Abstract
• 1. 개요
• 2. MLN의 구조 및 BP 알고리즘
• 3. 출력공간 중점과 목표의 차이벡터 역전파에 의한 BP 알고리즘의 학습속도 개선
• 4. 실험 결과 및 평가 분석
• 5. 결론
• 참고문헌
• 부록
• 저자소개