http://chineseinput.net/에서 pinyin(병음)방식으로 중국어를 변환할 수 있습니다.
변환된 중국어를 복사하여 사용하시면 됩니다.
통신 실패에 강인한 분산 뉴럴 네트워크 분할 및 추론 정확도 개선 기법
정종훈,양회석,Jeong, Jonghun,Yang, Hoeseok 대한임베디드공학회 2021 대한임베디드공학회논문지 Vol.16 No.1
Recently, it is increasingly necessary to run high-end neural network applications with huge computation overhead on top of resource-constrained embedded systems, such as wearable devices. While the huge computational overhead can be alleviated by distributed neural networks running on multiple separate devices, existing distributed neural network techniques suffer from a large traffic between the devices; thus are very vulnerable to communication failures. These drawbacks make the distributed neural network techniques inapplicable to wearable devices, which are connected with each other through unstable and low data rate communication medium like human body communication. Therefore, in this paper, we propose a distributed neural network partitioning technique that is resilient to communication failures. Furthermore, we show that the proposed technique also improves the inference accuracy even in case of no communication failure, thanks to the improved network partitioning. We verify through comparative experiments with a real-life neural network application that the proposed technique outperforms the existing state-of-the-art distributed neural network technique in terms of accuracy and resiliency to communication failures.
웨어러블 디바이스를 위한 통신 실패에 강인한 분산 뉴럴 네트워크 분할 기법
정종훈(JongHun Jeong),양회석(Hoeseok Yang) 한국통신학회 2021 한국통신학회 학술대회논문집 Vol.2021 No.2
본 논문은 인체통신과 같은 저데이터전송률 통신을 활용하는 웨어러블 디바이스에서 효율적으로 분산 뉴럴 네트워크를 구동하기 위한 NoNN(Network of Neural Network)기법을 소개하고, 통신 실패에 따른 추론 정확도 열화가 크다는 NoNN의 단점을 개선한다. 제안하는 분산 뉴럴 네트워크 분할 기법은 지식들이 균일한 크기로 고르게 분배됨으로써 일부 디바이스에서 통신 실패가 발생하여도 추론 정확도 열화가 작아 통신 실패에 강인하다. 8개의 디바이스로 뉴럴 네트워크를 분산시켜 기존 NoNN과 제안한 기법을 비교 실험한 결과, 7개의 디바이스에서 통신 실패가 발생할 때 평균 35.55% 최악의 경우 78.36% 개선되어 제안하는 분산 뉴럴 네트워크가 통신 실패에 강인한 것을 검증하였다.
다수의 내장형 시스템 장치를 이용한 분산 뉴럴 네트워크 구현 및 검증
허성진(Sungjin Heo),정종훈(Jonghun Jeong),양회석(Hoeseok Yang) 한국통신학회 2021 한국통신학회 학술대회논문집 Vol.2021 No.2
본 논문에서 우리는 하나의 뉴럴 네트워크 응용 프로그램을 다수의 내장형 시스템 장치 상에서 분산 추론 시키는 기법을 소개하고, 이를 실제 자원제약이 심한 내장형 시스템 장치들을 활용하여 구현/검증한다. 이러한 분산 뉴럴 네트워크 기법은 자원 및 전력 제약이 심하고 여러 디바이스 간 통신이 가능한 웨어러블 디바이스에서 유용하다. 본 논문에서는 저전력 내장형 시스템에 일반적으로 사용되는 마이크로프로세서인 Cortex-M 시리즈를 사용한 다수 개의 보드가 가장 대중적인 근거리 무선 통신 프로토콜인 블루투스를 사용하여 통신하는 환경을 사용하여 분산 뉴럴 네트워크의 동작을 검증한다. WRN40-4를 원본 네트워크로 분산 뉴럴 네트워크를 구성하여 NUCLEO-F411RE 4개를 사용하여 구현한 결과, CIFAR10 dataset 에서 93.20%의 추론 정확도를 보였다. 구현한 시스템에서의 분산 추론 지연 시간은 8.52초로 다소 길었는데, 이는 OS단에서 더욱 효율적인 자원관리를 통해 개선되어야 한다. 또한, 일부 통신 실패 상황에서도 일정 수준 이상의 추론 정확도를 확보할 수 있는 분산 뉴럴 네트워크의 특징을 확인하였으며, 실제 웨어러블 디바이스 환경에서 효과적으로 구동시킬 수 있음을 검증하였다.