잠재 섭동 학습을 통한 적대적 공격 생성 모델
Generating Transferable Adversarial Examples via Latent Perturbation Learning
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
최근 딥러닝 기반 이미지 분류 모델이 다양한 산업 분야에서 활용되면서, 해당 모델에 대한 보안 위협역시 함께 증가하고 있다. 특히 적대적 예제는 입력 이미지에 미세한 변화를 주어 모델의 출력을 쉽게조작할 수 있다는 점에서 심각한 위협으로 간주된다. 이러한 위협에 대응하기 위해 다양한 화이트박스공격 기법이 연구되어 왔다. 하지만, 실제 환경에서는 모델의 내부 구조나 파라미터에 접근할 수 없는경우가 많다. 그에 따라 블랙박스 환경에서도 공격이 발생할 수 있으므로, 이러한 환경에서의 공격 가능성 또한 중요하게 고려되어야 한다. 본 논문에서는 PGD 및 FGSM 공격을 통해 생성된 섭동 정보를 기반으로, 조건부 변분 오토인코더를 학습시켜 새로운 전이가능한 섭동을 생성하는 방식을 제안한다. CIFAR-10 데이터셋과 대리 모델을 통해, 학습된 조건부 변분 오토인코더가 원본 이미지와 정답 레이블만을 입력으로받아 새로운 공격 신호를 생성하며, 이를 통해 블랙박스 환경에서도 효과적인 공격이 가능함을 실험적으로검증하였다.
Abstract
This study proposes a method to generate transferable adversarial perturbations by training a Conditional Variational AutoEncoder using perturbations from PGD and FGSM attacks. As white-box access is often unavailable in real-world applications, black-box attacks become crucial. We train a CVAE on the CIFAR-10 dataset with a surrogate model to learn perturbation distributions. The trained CVAE generates attack signals using only the original image and label, and experiments show their effectiveness and transferability in black-box scenarios.