인공지능 모델 대상 백도어 공격을 응용한 저작권 보호 목적의 워터마킹 연구
Watermarking for Copyright Protection Using Backdoor Attacks on Artificial Intelligence Models
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
인공지능 기술의 발전에 따라 대두되어온 다양한 사이버보안 위협 중 하나인 백도어 공격은 자율주행 등 여러 인공지능 활용 도메인에서 피해를 유발할 수 있다. 본 논문에서는 백도어 공격 탐지를 짧은 시간 안에 수행할 수 있는 앙상블 모델 학습 환경에 특화된 탐지 기법을 제안한다. 이를 위해 탐지 모델 구축 과정과 공격 탐지 과정을 분리하여, 기존의 일체형 방어 기법에 대비해 효율성을 강화한다. 또한, 인공지능 모델 학습에 사용되는 데이터의 남용을 방지하고 데이터 저작권을 보호하기 위한 이미지 워터마킹 수단으로 백도어를 활용하는 방법을 제시한다.
Abstract
With the advancement of artificial intelligence(AI) technology, backdoor attacks have emerged as one of various cybersecurity threats, causing damage in various AI application domains, including autonomous driving. In this paper, we propose a backdoor attack detection method specialized to ensemble model training environments, achieving quick detection by separating the processes of model construction and attack detection. Additionally, we propose a method to prevent data abuse and protect data copyrights by utilizing backdoors as an image watermarking technique.
참고문헌 (11)
- T. D. Nguyen, "FLAME: Taming backdoors in federated learning", 31st USENIX Security Symposium, pp.1415~1432 (2022)
- Y. Guo, "Verifying in the Dark : Verifiable Machine Unlearning by Using Invisible Backdoor Triggers", IEEE Transactions on Information Forensics and Security, 19, pp.708~721 (2023)
- Y. Li, "Black-box dataset ownership verification via backdoor watermarking", IEEE Transactions on Information Forensics and Security, 18, pp.2318~2332 (2023)
- Waksman, Adam, "Silencing hardware backdoors", IEEE Symposium on Security and Privacy, pp.49~63 (2011)
- Jia, Jinyuan, "Badencoder: Backdoor attacks to pre-trained encoders in self-supervised learning", IEEE Symposium on Security and Privacy, pp.2043~2059 (2022)
- A. Schwarzschild, "Just how toxic is data poisoning? A unified benchmark for backdoor and data poisoning attacks", International Conference on Machine Learning, 139, pp.9389~9398 (2021), PMLR
- B. Wang, "Neural cleanse: Identifying and mitigating backdoor attacks in neural networks", IEEE Symposium on Security and Privacy, pp.707~723 (2019)