AI 환경에서 모델 전도 공격에 안전한 차분 프라이버시 기술
Differential Privacy Technology Resistant to the Model Inversion Attack in AI Environments
0
조회
0
다운로드
2
인용
0
참고문헌
키워드
초록
온라인상에 축적되는 디지털 데이터의 양은 폭발적으로 증가하고 있으며 이러한 데이터들은 매우 큰 잠재적 가치를 갖고 있다. 국가 및 기업들은 방대한 양의 데이터로부터 다양한 부가가치를 창출하고 있으며 데이터 분석 기술에많은 투자를 하고 있다. 그러나 데이터 분석에서 발생하는 프라이버시 문제는 데이터의 활용을 저해하는 큰 요인으로작용하고 있다. 최근 신경망 모델 기반의 분석 기술에 대한 프라이버시 침해 공격들이 제안됨에 따라 프라이버시를보존하는 인공 신경망 기술에 대한 연구가 요구되고 있다. 이에 따라 엄격한 프라이버시를 보장하는 차분 프라이버시분야에서 다양한 프라이버시 보존형 인공 신경망 기술에 대한 연구가 수행되고 있지만, 신경망 모델의 정확도와 프라이버시 보존 강도 사이의 균형이 적절하지 않은 문제점이 있다. 본 논문에서는 프라이버시와 모델의 성능을 모두 보존하고 모델 전도 공격에 저항성을 갖는 차분 프라이버시 기술을 제안한다. 또한, 프라이버시 보존 강도에 따른 모델전도 공격의 저항성을 분석한다.
Abstract
The amount of digital data a is explosively growing, and these data have large potential values. Countries and companiesare creating various added values from vast amounts of data, and are making a lot of investments in data analysistechniques. The privacy problem that occurs in data analysis is a major factor that hinders data utilization. Recently, asprivacy violation attacks on neural network models have been proposed. researches on artificial neural network technologythat preserves privacy is required. Therefore, various privacy preserving artificial neural network technologies have beenstudied in the field of differential privacy that ensures strict privacy. However, there are problems that the balance betweenthe accuracy of the neural network model and the privacy budget is not appropriate. In this paper, we study differentialprivacy techniques that preserve the performance of a model within a given privacy budget and is resistant to modelinversion attacks. Also, we analyze the resistance of model inversion attack according to privacy preservation strength.
참고문헌 (16)
- K. He, "Delving deep into rectifiers: Surpassing human-level performance on imagenet classification", Proceedings of the IEEE international conference on computer vision, pp.1026~1034 (2015)
- O. Vinyals, "Grammar as a foreign language", Advances in neural information processing systems, pp.2773~2781 (2015)
- C. J. Maddison, "Move evaluation in Go using deep convolutional neural networks", arXiv preprint arXiv : 1412. 6564, ~ (2014)
- M. Fredrikson, "Privacy in pharmacogenetics: An end-to-end case study of personalized warfarin dosing", 23rd USENIX Security Symposium, pp.17~32 (2014)
- M. Fredrikson, "Model inversion attacks that exploit confidence information and basic countermeasures", Proceedings of the 22nd ACM SIGSAC Conference on Computer and Communications Security, pp.1322~1333 (2015)
- R. Shokri, "Membership inference attacks against machine learning models", 2017 IEEE Symposium on Security and Privacy, pp.3~18 (2017)
- F. Tramèr, "Stealing machine learning models via prediction apis", 25th USENIX Security Symposium, pp.601~618 (2016)
- C. Dwork, "Calibrating noise to sensitivity in private data analysis", Theory of cryptography conference, pp.265~284 (2006)
- C. Dwork, "The algorithmic foundations of differential privacy", Foundations and Trends® in Theoretical Computer Science, 9(3–4), pp.211~407 (2014)
- M. Abadi, "Deep learning with differential privacy", Proceedings of the 2016 ACM SIGSAC Conference on Computer and Communications Security, pp.308~318 (2016)
- C. Dwork, "Our data, ourselves: Privacy via distributed noise generation", Annual International Conference on the Theory and Applications of Cryptographic Techniques, pp.486~503 (2006)
- C. Dwork, "Differential privacy and robust statistics", STOC, 9, pp.371~380 (2009)
- C. Dwork, "Boosting and differential privacy", 2010 IEEE 51st Annual Symposium on Foundations of Computer Science, pp.51~60 (2010)
- P. Kairouz, "The composition theorem for differential privacy", IEEE Transactions on Information Theory, 63(6), pp.4037~4049 (2017)
- A. Beimel, "Bounds on the sample complexity for private learning and private data release", Theory of Cryptography Conference, pp.437~454 (2010)
- "The ORL database of faces" (2019)[URL]