IoT 컴퓨팅 환경을 위한 뉴로모픽 기반 플랫폼의 추론시간 단축
Reduction of Inference time in Neuromorphic Based Platform for IoT Computing Environments
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
뉴로모픽 아키텍처는 스파이킹 신경망(SNN, Spiking Neural Network) 모델을 사용하여, 추론 실험을 통해 스파이크 값이 많이 누적될수록 정확한 결과를 도출한다. 추론 결과가 특정 값으로 수렴할 경우, 추론 실험을 더 진행해도 결과의 변화가 작아 소비 전력이 더 커질 수 있다. 특히, 인공지능 기반 IoT 환경에서는 전력 낭비는 큰 문제가 될 수 있다. 따라서 본 논문에서는 뉴로모픽 아키텍처 환경에서 추론 이미지 노출 시간을 조절하여 추론 시간을 단축함으로써 인공지능 기반 IoT의 전력 낭비를 줄이는 기법을 제안한다. 제안한 기법은 추론 정확도의 변화를 반영하여 다음 추론 이미지 노출 시간을 계산한다. 또한, 추론 정확도의 변화량 반영 비율을 계수 값으로 조절할 수 있으며, 다양한 계수 값의 비교 실험을 통해 최적의 계수 값을 찾는다. 제안한 기법은 목표 정확도에 해당하는 추론 이미지 노출 시간은 선형 기법보다 크지만 최종 추론 시간은 선형 기법 보다 적다. 제안한 기법의 성능을 측정하고 평가한 결과, 제안한 기법을 적용한 추론 실험이 선형 기법을 적용한 추론 실험보다 최종 노출 시간을 약 90% 단축할 수 있음을 확인한다.
Abstract
The neuromorphic architecture uses a spiking neural network (SNN) model to derive more accurate results as more spike values are accumulated through inference experiments. When the inference result converges to a specific value, even if the inference experiment is further performed, the change in the result is smaller and power consumption may increase. In particular, in an AI-based IoT environment, power consumption can be a big problem. Therefore, in this paper, we propose a technique to reduce the power consumption of AI-based IoT by reducing the inference time by adjusting the inference image exposure time in the neuromorphic architecture environment. The proposed technique calculates the next inferred image exposure time by reflecting the change in inference accuracy. In addition, the rate of reflection of the change in inference accuracy can be adjusted with a coefficient value, and an optimal coefficient value is found through a comparison experiment of various coefficient values. In the proposed technique, the inference image exposure time corresponding to the target accuracy is greater than that of the linear technique, but the overall power consumption is less than that of the linear technique. As a result of measuring and evaluating the performance of the proposed method, it is confirmed that the inference experiment applying the proposed method can reduce the final exposure time by about 90% compared to the inference experiment applying the linear method.
참고문헌 (13)
- 김영관, "기계학습 분산 환경을 위한 부하 분산 기법", 스마트미디어저널, 10(1), pp.25~31 (2021), (사)한국스마트미디어학회[DOI]
- 박선, "오픈 소스 기반의 딥러닝을 이용한 적조생물 이미지 분류", 스마트미디어저널, 7(2), pp.34~39 (2018), (사)한국스마트미디어학회[DOI]
- 김서정, "딥러닝을 이용한 양파 밭의 잡초검출 연구", 스마트미디어저널, 7(3), pp.16~21 (2018), (사)한국스마트미디어학회[DOI]
- 이하윤, "ARM 기반 IoT 장치에서 효율적인 딥 러닝 수행을 위한 BLAS 및 신경망 라이브러리의 성능 및 에너지 비교", 정보과학회논문지, 46(3), pp.219~227 (2019), 한국정보과학회[DOI]
- Boseon Hong, "Hardware Technology Trends for Neuromorphic Computing", Communications of the Korean Institute of Information Scientists and Engineers, 38(2), pp.32~39 (2020)
- Seoyeon Kim, "Design of a Framework for supporting Neuromorphic Hardware in IoT platform", Communications of the Korean Institute of Information Scientists and Engineers, 38(2), pp.51~57 (2020)
- Keon Myung Lee, "Behavior of Spiking Neuron Models and Learning of Spiking Neural Networks", Communications of the Korean Institute of Information Scientists and Engineers, 38(2), pp.8~19 (2020)
- Jangsaeng Kim, "Hardware-based spiking neural network architecture using simplified backpropagation algorithm and homeostasis functionality", Neurocomputing, 428, pp.153~165 (2021)
- Trevor Bekolay, "Nengo : a Python tool for building large-scale functional brain models", Frontiers in Neuroinformatics, 7(48), pp.1~13 (2014)
- A technical overview of the neural engineering framework, Vol 110, "Terrence C Stewart", University of Waterloo, ~ (2012)
- Yann LeCun, "Gradient-based learning applied to document recognition", Proceedings of the IEEE, 86(11), pp.2278~2323 (1998)
- "LattePanda Alpha 864s" (2021)[URL]
- "NengoLoihi" (2022)[URL]