적대적 사례 판별을 위한 푸리에 도메인 상에서 노이즈 필터링 기법
Noise Filtering Method on Fourier Domain for Adversarial Example Detection
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
딥러닝의 연구가 활발해짐에 따라 안정성에 대한 중요성도 증대되고 있다. 특히 자율주행이나 의료 영상 판독과 같은 분야에서는 안정성이 크게 요구된다. 그러나 사람 눈으로는 구별할 수 없지만, 딥러닝의 결과에 큰 영향을 끼치는 적대적 사례 (adversarial example)로 인한 취약성이 대두되고 있다. 따라서 최근 적대적 사례로 딥러닝 모델을 공격하는 방법과 방어하는 방법은 활발히 연구가 되고 있다. 본 논문에서는 적대적 사례 영상을 푸리에 도메인 상으로 변환하여 분석하고, 푸리에 변환된 영상에서 얻은 노이즈 영상을 분류기의 입력으로 사용하여 적대적/비적대적 사례로 이진 분류하는 방법을 제안한다. 흔히 사용되는 공격 방법 중 하나인 Projected Gradient Descent (PGD)와 Deepfool로 생성한 적대적 사례를 대상으로 판별 실험을 하였다. Cifar-10 데이터에 대해 실험한 결과, PGD의 경우 93% 분류 정확도를, Deepfool은 85%의 분류 정확도를 보여 향후 적대적 사례에 대한 방어 방법으로 사용가능함을 확인하였다.
Abstract
Recent advances in deep learning field have increased the importance of security and robustness. However, several works demonstrated that deep neural networks are vulnerable to adversarial examples which are indistinguishable to human eyes but lead to erroneous results. In this paper, we propose an classification method for the adversarial examples by using the extracted adversarial noises in the Fourier domain. We experimented our proposed method against the Projected Gradient Descent (PGD) and Deepfool adversarial attack method on Cifar-10. Our method achieves 93% accuracy against the PGD, and 85% accuracy against the Deepfool.
참고문헌 (24)
- Krizhevsky, Alex, "Imagenet classification with deep convolutional neural networks", Advances in neural information processing systems, 25, pp.1097~1105 (2012)
- He, Kaiming, "Deep residual learning for image recognition", Proceedings of the IEEE conference on computer vision and pattern recognition (2016)
- 이용준, "딥러닝 기반 포즈 인식 및 교정을 통한 효율적인 홈 트레이닝 시스템 개", 한국차세대컴퓨팅학회 논문지, 17(6), pp.89~99 (2021), 한국차세대컴퓨팅학회[DOI]
- Hochreiter, Sepp, "Long short-term memory", Neural computation, 9(8), pp.1735~1780 (1997)
- Collobert, Ronan, "A unified architecture for natural language processing:Deep neural networks with multitask learning", Proceedings of the 25th international conference on Machine learning (2008)
- 김선범, "딥러닝 알고리즘을 이용한 문서의 인코딩 및 언어 판별", 한국차세대컴퓨팅학회 논문지, 13(5), pp.124~130 (2017), 한국차세대컴퓨팅학회
- 고종민, "MRI를 이용한 치매 진단을 위한 패턴인식 기법의 비교분석", 한국차세대컴퓨팅학회 논문지, 12(4), pp.47~57 (2016), 한국차세대컴퓨팅학회
- Szegedy, Christian, "Intriguing properties of neural networks", International Conference on Learning Representations (2014)
- Goodfellow, Ian J., "Explaining and harnessing adversarial examples", International Conference on Learning Representations (2015)
- Xu, Han, "Adversarial attacks and defenses in images, graphs and text: A review", International Journal of Automation and Computing, 17(2), pp.151~178 (2020)
- Kurakin, Alexey, "Adversarial examples in the physical world" (2016)
- Moosavi-Dezfooli, "Deepfool: a simple and accurate method to fool deep neural networks", Proceedings of the IEEE conference on computer vision and pattern recognition (2016)
- Papernot, Nicolas, "Practical black-box attacks against machine learning", Proceedings of the 2017 ACM on Asia conference on computer and communications security (2017)
- Chen, Pin-Yu, "Zoo: Zeroth order optimization based black-box attacks to deep neural networks without training substitute models", Proceedings of the 10th ACM workshop on artificial intelligence and security (2017)
- Papernot, Nicolas, "Distillation as a defense to adversarial perturbations against deep neural networks", 2016 IEEE symposium on security and privacy (SP) (2016), IEEE
- Liu, Xuanqing, "Towards robust neural networks via random self-ensemble", Proceedings of the European Conference on Computer Vision (ECCV) (2018)
- Athalye, Anish, "Obfuscated gradients give a false sense of security: Circumventing defenses to adversarial examples", International conference on machine learning (2018), PMLR
- Hendrycks, Dan, "Early methods for detecting adversarial images", International Conference on Learning Represen-tations (2017)