뉴로모픽 환경에서 QoS를 고려한 최적의 SNN 모델 파라미터 생성 기법
QoS-Aware Optimal SNN Model Parameter Generation Method in Neuromorphic Environment
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
뉴로모픽 아키텍처 기반 하드웨어를 이용한 IoT 엣지 서비스는 단말 장치에서 지능형 처리를 수행할 수 있기 때문에 자율형 IoT 응용 지원에 적합하다. 그러나 IoT 개발자가 뉴로모픽 하드웨어에서 사용되는 SNN을 이해하기에는 어려움이 있다. 본 논문에서는 뉴로모픽 하드웨어의 제약조건을 고려하며 사용자의 요구 성능을 만족하는 SNN 모델 생성 기법을 제안한다. 제안 기법은 프로파일링된 데이터에서 최적의 SNN 모델 파라미터를 찾도록 전처리된 데이터로 사전 학습한 모델을 활용한다. 전체 탐색 기법과 비교 결과, 두 기법 모두 사용자 요구사항을 모두 만족하였지만, 제안 기법이 수행 시간 측면에서 더 좋은 성능을 보였다. 또한, 신규 하드웨어의 제약조건을 명확히 알지 못하더라도 새로운 하드웨어의 프로파일링된 데이터를 활용할 수 있으므로 높은 확장성을 제공할 수 있다.
Abstract
IoT edge services utilizing neuromorphic hardware architectures are suitable for autonomous IoT applications as they perform intelligent processing on the device itself. However, spiking neural networks applied to neuromorphic hardware are difficult for IoT developers to comprehend due to their complex structures and various hyper-parameters. In this paper, we propose a method for generating spiking neural network (SNN) models that satisfy user performance requirements while considering the constraints of neuromorphic hardware. Our proposed method utilizes previously trained models from pre-processed data to find optimal SNN model parameters from profiling data. Comparing our method to a naive search method, both methods satisfy user requirements, but our proposed method shows better performance in terms of runtime. Additionally, even if the constraints of new hardware are not clearly known, the proposed method can provide high scalability by utilizing the profiled data of the hardware.
참고문헌 (23)
- 김선욱, "IoT 장치의 개인정보 데이터 보호 시스템 구현에 관한 연구", 스마트미디어저널, 10(2), pp.84~91 (2021), (사)한국스마트미디어학회[DOI]
- D. A. Nguyen, "A low-power, high-accuracy with fully on-chip ternary weight hardware architecture for Deep Spiking Neural Networks", Microprocessors and Microsystems, 90 (2022)
- T. N. N. Nguyen, "Predictive Analytics in Cloud, Fog, and Edge Computing: Perspectives and Practices of Blockchain, IoT, and 5G", pp.227~248 (2022)
- F. Akopyan, "TrueNorth : Design and Tool Flow of a 65 mW 1Million Neuron Programmable Neurosynaptic Chip", IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems, 34(10), pp.1537~1557 (2015)
- M. Davies, "Loihi : A Neuromorphic Manycore Processor with On-Chip Learning", IEEE Micro, 38(1), pp.82~99 (2018)
- A. D. Brown, "SpiNNaker : Event-based simulation-quantitative behaviour", IEEE Transactions on Multiscale Computing Systems, 4, pp.450~462 (2018)
- J. Schemmel, "Live demonstration : A scaled-down version of the BrainScaleS wafer-scale neuromorphic system", 2012 IEEE International Symposium on Circuits and Systems(ISCAS), pp.702~702 (2012)
- B. V. Benjamin, "Neurogrid : A Mixed-Analog-Digital Multichip System for Large-Scale Neural Simulations", Proceedings of the IEEE, 102(5), pp.699~716 (2014)
- "Terasic De1-SoC" (2016)[URL]
- "Xilinx PYNQ" (2017)[URL]
- T. Bekolay, "Nengo: a Python tool for building large-scale functional brain models", Frontiers in Neuroinformatics, 7 (2014)
- 신양훈, "프로파일링 데이터를 이용한 가상기계 코드 최적화", 정보처리학회논문지. 컴퓨터 및 통신시스템, 14(3), pp.167~172 (2007), 한국정보처리학회
- 이윤재, "메모리 접근 프로파일링을 통한 프로그램의 Swap 사용 최적화", 정보과학회논문지, 47(5), pp.466~472 (2020), 한국정보과학회[DOI]
- 오지선, "CPU-GPU 컨테이너 클러스터의 프로파일링을 활용한 계산응용 실행 계획 기법", 정보과학회논문지, 46(10), pp.975~980 (2019), 한국정보과학회[DOI]
- D. Chen, "Taming hardware event samples for FDO compilation", Proceedings of the 8th annual IEEE, 2010, 42~52
- T. D. Han, "Automatic tuning of local memory use on GPGPUs", Part of ADAPTWorkshop proceedings (2015)
- E. Ipek, "Efficient architectural design space exploration via predictive modeling", ACM Transactions on Architecture and Code Optimization, 4(4), pp.1~34 (2008)
- E. Schulte, "Post-compiler software optimization for reducing energy", Proceedings of the 19th international conference on Architectural support for programming languages and operating systems(ASPLOS '14), pp.639~652 (2014)
- M. Blackstock, "Toward a Distributed Data Flow Platform for the Web of Things (Distributed Node-RED)", Proceedings of the 5th International Workshop on Web of Things (WoT'14), pp.34~39 (2014), Association for Computing Machinery
- 김서연, "AI 컴포넌트 추상화 모델 기반 자율형 IoT 통합개발환경 구현", 한국인터넷방송통신학회 논문지, 21(5), pp.71~77 (2021), 한국인터넷방송통신학회[DOI]
- 김서연, "FPGA상에서 스파이킹 뉴럴 네트워크 지원을 위한 모델 최적화", 스마트미디어저널, 11(2), pp.70~76 (2022), (사)한국스마트미디어학회
- 김서연, "오픈 플랫폼 호환 지능형 IoT 컴포넌트 자동 생성 도구", 스마트미디어저널, 11(11), pp.32~39 (2022), (사)한국스마트미디어학회[DOI]
- "Applied Brain Research" (2018)[URL]