선별적 그래디언트 암호화를 통한 연합 학습에서의 모델 전도 공격 방어 기법
Mitigating Model Inversion Attacks in Federated Learning Over Selectively Encrypted Gradients
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
본 연구는 연합 학습(Federated Learning, FL) 환경에서 모델 전도 공격(Model Inversion Attack)을 완화하기 위한 새로운 방법을 제안한다. 연합 학습은 클라이언트의 프라이빗 데이터를 노출하지 않고 로컬 그래디언트를 공유하여 글로벌 모델을 학습할 수 있도록 한다. 그러나 모델전도 공격은 공유된 그래디언트로부터 프라이빗 데이터를 복원할 수 있다. 이를 해결하기 위해 동형 암호화(Homomorphic Encryption, HE)와차분 정보 보호(Differential Privacy, DP)와 같은 기존의 방어 메커니즘을 딥러닝 모델 학습에 적용하여 프라이빗 데이터를 보호하고자 하였다. 하지만, 이러한 메커니즘은 프라이버시, 모델 정확도, 연산 효율성 간의 균형을 맞추는 데 한계가 있다. 제안된 방법은 프라이빗 데이터에 대한정보를 더 많이 포함하는 그래디언트를 선택적으로 암호화하여 모델 정확도와 연산 효율성 간의 균형을 조정하는 새로운 접근법을 제안한다. 추가적으로, 암호화되지 않은 그래디언트에 필요시 DP 노이즈를 추가하여 데이터 프라이버시를 더욱 강화한다. 종합적인 평가를 통해 제안된 방법이프라이버시, 정확도, 효율성 간의 트레이드오프를 효과적으로 조절하여 기존의 방어 메커니즘보다 뛰어난 성능을 보임을 확인하였다.
Abstract
We introduce a novel method to mitigate against model inversion attacks in Federated Learning (FL). FL enables the training of aglobal model by sharing local gradients without exposing clients’ private data. However, model inversion attacks can reconstruct theprivate data from the shared gradients. To address this, the traditional defense mechanisms, such as Homomorphic Encryption (HE) andDifferential Privacy (DP) have been implemented in deep learning model training to obsecure the private data. However, both mechanismshave limitations in balancing privacy, accuracy, and efficiency. Our approach selectively encrypts the gradients which contain moreinformation about the private data, to balance between accuracy and computational efficiency. Additionally, optional DP noise is appliedto unencrypted gradients to enhance data privacy. Comprehensive evaluations demonstrate that our method effectively balances thetrade-off between privacy, accuracy, and efficiency outperforming existing defenses.