연합학습에서 약한 차분 프라이버시와 다양한 방어 기법 결합을 통한 백도어 공격 방어 연구
A Study on the Effectiveness of Backdoor Attack Defense through the Combination of Weak Differential Privacy and Various Defense Mechanisms in Federated Learning
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
프라이버시 규제가 강화됨에 따라 사용자 데이터를 중앙 서버에 저장하지 않고 분산된 환경에서 학습할 수 있는 연합학습(Federated learning)이 중요한 기술로 주목받고 있다. 그러나 연합학습은 분산된 특성상 다양한 공격에 노출되기 쉬우며, 그 중 특히 백도어 공격에 취약하다. 본 논문에서는 이러한 백도어 공격을 방어하기 위해 약한 차분 프라이버시(Weak differential privacy) 기법을 적용하고, Multi-Krum, Norm Clipping과 같은 다양한 방어 기법과 결합하여 그 효과를 분석하였다. Reddit 데이터셋과 LSTM, GPT-2 모델을 활용해 다양한 크기의 노이즈를 적용한 실험을 통해 차분 프라이버시의 방어 효과를 평가한 결과, 프라이버시 보호를 위해 필요한 수준보다 적은 양의 노이즈로도 효과적인 방어가 가능함을 확인하였고, 다른 방어 기법과 결합할 때 방어 성능이 더욱 향상됨을 발견하였다. 해당 연구는 연합학습 환경에서 모델 성능을 유지하면서도 백도어 공격을 방어할 수 있는 최적의 노이즈 설정이 중요함을 강조하며, 차분 프라이버시와 다양한 방어 기법의 결합이 백도어 방어에 실용적임을 시사한다.
Abstract
As privacy regulations become stricter, federated learning, which enables learning in a distributed environment without storing user data on a central server, has emerged as a critical technology. However, its distributed nature makes it vulnerable to various attacks, with backdoor attacks being particularly significant. In this paper, we aim to defend against such backdoor attacks by applying a weak differential privacy mechanism and combining it with various defense techniques such as Multi-Krum and Norm Clipping to analyze their effectiveness. Experiments conducted using the Reddit dataset and LSTM and GPT-2 models with varying levels of noise demonstrate that effective defense can be achieved with less noise than typically required for privacy protection. Moreover, combining differential privacy with other defense techniques enhances defense performance. This study highlights the importance of optimizing noise settings to defend against backdoor attacks while maintaining model performance in federated learning environments and suggests that the combination of differential privacy with other defense mechanisms is a practical solution for backdoor defense.