활성화 함수 근사를 통한 지수함수 기반 신경망 마스킹 기법
Masking Exponential-Based Neural Network via Approximated Activation Function
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
본 논문에서는 딥러닝 분야에서 사용되는 신경망 모델, 그중에서도 다중 계층 퍼셉트론 모델에 사용되는 지수함수 기반의 활성화 함수를 근사 함수로 대체하고, 근사 함수에 마스킹을 적용함으로써 신경망 모델의 추론 과정의 전력 분석 저항성을 높이는 방법을 제안한다. 이미 학습된 값을 사용하여 연산하는 인공 신경망의 추론 과정은 그 특성상 가중치나 편향 등의 내부 정보가 부채널 공격에 노출될 위험성이 있다. 다만 신경망 모델의 활성화 함수 계층에서는 매우 다양한 함수를 사용하고, 특히 지수함수 기반의 활성화 함수에는 마스킹 기법 등 통상적인 부채널 대응기법을 적용하기가 어렵다. 따라서 본 연구에서는 지수함수 기반의 활성화 함수를 단순한 형태로 근사하여도 모델의 치명적인 성능 저하가 일어나지 않음을 보이고, 근사 함수에 마스킹을 적용함으로써 전력 분석으로부터 안전한 순방향 신경망 모델을 제안하고자 한다.
Abstract
This paper proposes a method to increase the power-analysis resistance of the neural network model's feedforward process by replacing the exponential-based activation function, used in the deep-learning field, with an approximated function especially at the multi-layer perceptron model. Due to its nature, the feedforward process of neural networks calculates secret weight and bias, which already trained, so it has risk of exposure of internal information by side-channel attacks. However, various functions are used as the activation function in neural network, so it's difficult to apply conventional side-channel countermeasure techniques, such as masking, to activation function(especially, to exponential-based activation functions). Therefore, this paper shows that even if an exponential-based activation function is replaced with approximated function of simple form, there is no fatal performance degradation of the model, and than suggests a power-analysis resistant feedforward neural network with exponential-based activation function, by masking approximated function and whole network.
참고문헌 (9)
- Y. LeCun, "Deep Learning", Nature, 521(7553), pp.436~444 (2015)
- Chabanne, Hervé, "Side channel attacks for architecture extraction of neural networks" (2021), CAAI Transactions on Intelligence Technology
- Batina, Lejla, "CSI NN : Reverse engineering of neural network architectures through electromagnetic side channel", 28th USENIX Security Symposium (USENIX Security 19) (2019)
- M. Méndez Real, "Physical side-channel attacks on embedded neural networks : A survey", Applied Sciences (2021)
- K. Athanasiou, "Masking feedforward neural networks against power analysis attacks", Proceedings on Privacy Enhancing Technologies, (1) (2022)
- N. G. Timmons, "Approximating Activation Functions" (2020)
- P. Mohassel, "SecureML : A System for Scalable Privacy-Preserving Machine Learning", 2017 IEEE Symposium on Security and Privacy (SP), pp.19~38 (2017), IEEE
- W. Shin, "Side-Chaneel Countermeasure for Binary Neural Network Protection", Conference on Information Security and Cryptography Summer 2023, pp.75~ (2023)
- McCann, David, "Towards Practical Tools for Side Channel Aware Software Engineering : 'Grey Box'Modelling for Instruction Leakages", 26th USENIX security symposium (USENIX security 17), pp.199~216 (2017)