다양한 차수의 합성 미니맥스 근사 다항식이 완전 동형 암호 상에서의 컨볼루션 신경망 네트워크에 미치는 영향
The Impact of Various Degrees of Composite Minimax Approximate Polynomials on Convolutional Neural Networks over Fully Homomorphic Encryption
1
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
보안을 유지하는 가운데 딥 러닝을 이용하여 데이터 분석 결과를 제공하는 서비스의 핵심적인 기술 중의 하나로 완전 동형 암호가 있다. 완전 동형 암호화된 데이터 간의 연산의 제약으로 인해 딥 러닝에 사용되는 비산술 함수를 다항식으로 근사해야 한다. 현재까지는 합성 미니맥스 다항식을 사용하여 비산술 함수를 근사한 다항식을 컨볼루션 뉴럴 네트워크에 적용했을 때 계층별로 같은 차수의 다항식만 적용하였는데, 이는 완전 동형 암호를 위한 효과적인 네트워크의 설계에 어려움을 준다. 본 연구는 합성 미니맥스 다항식으로 설계한 근사 다항식의 차수를 계층별로 서로 다르게 설정하여도 컨볼루션 뉴럴 네트워크에서 데이터의 분석에 문제가 없음을 이론적으로 증명하였다.
Abstract
One of the key technologies in providing data analysis in the deep learning while maintaining security is fully homomorphic encryption. Due to constraints in operations on fully homomorphically encrypted data, non-arithmetic functions used in deep learning must be approximated by polynomials. Until now, the degrees of approximation polynomials with composite minimax polynomials have been uniformly set across layers, which poses challenges for effective network designs on fully homomorphic encryption. This study theoretically proves that setting different degrees of approximation polynomials constructed by composite minimax polynomial in each layer does not pose any issues in the inference on convolutional neural networks.
참고문헌 (7)
- F. Boemer, "NGraph-HE: A graph compiler for deep learning on homomorphically encrypted data", Proceedings of 16th ACM International Conference on Computing Frontiers, pp.3~13 (2019)
- J. Lee, "Privacy-preserving machine learning with fully homomorphic encryption for deep neural network", IEEE Access, 10, pp.30039~30054 (2022)
- E. Lee, "Low-complexity deep convolutional neural networks on fully homomorphic encryption using multiplexed parallel convolutions", Proceedings of International Conference on Machine Learning 2022, pp.12403~12422 (2022)
- D. Kim, "Optimized privacy-preserving CNN inference with fully homomorphic encryption", IEEE Transactions on Information Forensics and Security, vol. 18, pp. 2175–2187, Mar, 18, pp.2175~2187 (2023)
- J. Lee, "Precise approximation of convolutional neural networks for homomorphically encrypted data", IEEE Access, 11, pp.62062~62076 (2023)
- E. Lee, "Minimax approximation of sign function by composite polynomial for homomorphic comparison", IEEE Transactions on Dependable and Secure Computing, 19(6), pp.3711~3727 (2021)
- J. Lee, "Optimizing layerwise polynomial approximation for efficient private inference on fully homomorphic encryption: a dynamic programming approach"