객체탐지 AI모델 성능저하를 위한 강건한 적대적 패치(RAP) 실증적 연구
An Empirical Study on the Robust Adversarial Patches(RAP) for Performance Degradation of Object Detection AI Models
1
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
본 논문은 객체탐지 AI모델에 대해 실전에서 사용할 수 있고 효과적으로 회피할 수 있도록, 적대적 패치를 변형해서 강건한 적대적 패치를 생성하고 이를 검증할 수 있는 통합 프레임워크를 제안한다. 기존의 적대적 패치 연구에서는 시도하지 않았던 혁신적인 형태 개선으로 패치의 크기, 위치, 색상을 동시에 최적화하는 통합 프레임워크를 구현 하였다. 제안하는 패치는 시각적 자연스러움을 동반하며 탐지 억제, 모델 간 전이성을 균형있게 고려하고 객체탐지 회피를 위한 최적 인식률 저하 성능지표를 적용해서 기존모델보다 제안된 RAP 모델의 성능이 우수함을 검증했다. 실험 결과, 2가지 유형의 객체탐지 모델에 대해 높은 공격 성공률을 달성하면서도 우수한 시각적 은폐성을 유지함을 확인할 수 있어 현대전과 미래전에서 활용 할 수 있는 패치를 확대 적용할 수 있다.
Abstract
This paper proposes an integrated framework for generating robust adversarial patches that can be practically applied in real-world scenarios to effectively evade object detection AI models. Unlike previous adversarial patch studies, the proposed framework introduces innovative shape-based enhancements by simultaneously optimizing the patch’s size, position, and color. The framework also applies a joint loss function that balances visual naturalness, suppression of detection, and model transferability. Experimental results demonstrate that the proposed RAP model outperforms existing approaches, achieving high attack success rates on two types of object detection models while maintaining superior visual concealment. These findings suggest that the proposed patches can be extended for broader applications in current and future battlefield environments.