http://chineseinput.net/에서 pinyin(병음)방식으로 중국어를 변환할 수 있습니다.
변환된 중국어를 복사하여 사용하시면 됩니다.
CNN 모델 학습시 가중치 시각화를 활용한 하이퍼 파라미터 최적화 방법론에 관한 연구
양태린(Taelin Yang),박진호(Jinho Park) 한국HCI학회 2024 한국HCI학회 학술대회 Vol.2024 No.1
최근 다양한 분야에서 기계 학습 모델이 뛰어난 성능을 발휘하고 있다. 이러한 성능 향상의 핵심 요소 중 하나는 기계학습모델의 하이퍼 파라미터 최적화이다. 하이퍼 파라미터란 최적의 훈련 모델을 구현하기 위해 모델에 직접 설정하는 변수다. 이는 모델의 구조 혹은 학습 과정을 결정하며, 학습 이후 모델의 성능에 크게 영향을 미친다. 따라서 최적의 하이퍼 파라미터를 찾는 하이퍼 파라미터 최적화 기법들이 활발히 연구되고 있다. 본 논문에서는 시각화를 통한 하이퍼 파라미터 최적화 기법을 제안한다. 학습이 진행되면서 에폭별로, 레이어마다 가중치를 구하고 이전 에폭과의 가중치와의 차이를 시각화하여 나타낸다. 이것을 가중치 시각화라고 정의하며, 이를 보고 하이퍼 파라미터를 수정할 수 있는 기준을 만들어 준다. 이는 기존의 방법론이 가지고 있던 과도하게 많은 연산량과 시간을 줄여줄 수 있다. 또한 가중치 시각화를 통한 하이퍼 파라미터 최적화 방법론을 극대화하기 위하여 전용 프로그램을 제작하였다. 3d 공간상에 직접 모델의 개수와 구조 학습 과정 등을 설정할 수 있으며 이를 통해 실시간으로 가중치 시각화를 보고 하이퍼 파라미터 최적화를 할 수 있게 구성했다. 이는 CIFAR10 데이터셋의 분류를 수행하는 기계학습 모델에 대한 하이퍼 파라미터 최적화 실험 결과 기존의 방법 대비 매우 빠른 속도를 보여주었다. 이러한 방법론은 학습을 보다 효율적으로 수행하며 인공지능 모델의 발전과 적용에 기여할 수 있을 것으로 기대된다.