연합학습에서의 연쇄 추론 공격 가능성에 관한 연구
A Study on the Feasibility of Chained Inference Attacks in Federated Learning
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
멤버십 추론 공격은 공개된 딥러닝 모델에 대응하는 학습 데이터 집합에 대한 특정 데이터 샘플의 포함 유무를 추론하는 대표적인 프라이버시 침해 공격으로써, 프라이버시 보존형 메커니즘인 연합학습 환경에서 많은 연구가 진행되고 있다. 최근에는 연합학습 환경에서 지역 모델에 대한 멤버십 추론이 가능한 출처 추론 공격 개념이 제시되었다. 그러나, 해당 공격은 사전에 전역 모델에 대한 완벽한 추론이 이루어짐을 가정한 상태에서 설계되었으며, 이는 현실적인 연합학습 환경 및 멤버십 추론 공격의 실현 가능한 성능을 전혀 고려하지 않았다. 본 논문에서는 보다 현실적인 공격 방법을 위해, 전역 모델에 대한 멤버십 추론 공격 및 지역 모델에 대한 출처 추론 공격 개념을 혼합한 연쇄 추론 공격 개념을 정립하고 제안하며, 해당 공격의 실현 가능성에 대해 상세히 분석한다. 이를 통해 실제 연합학습 환경에 최대한 유사한 방향으로 연쇄 추론 공격의 실현 가능성을 실험적으로 검증하며, 나아가 이를 기반으로 멤버십 추론 공격에 관한 향후 연구 방향을 서술한다.
Abstract
Membership inference attacks are a representative privacy-violating attack that infers the inclusion or absence of a specific data sample in a training data set corresponding to a public deep learning model. Much research is being conducted in the federated learning environment, a privacy-preserving mechanism. Recently, a provenance inference attack concept was proposed that enables membership inference for local models in federated learning environments. However, this attack was designed based on the assumption that perfect inference for the global model has been achieved in advance, completely disregarding the realistic federated learning environment and the feasibility of membership inference attacks. In this paper, we establish and propose a chain inference attack concept that combines the concepts of membership inference attack for global models and provenance inference attack for local models for a more realistic attack method, and analyze in detail the feasibility of the attack. Through this, we experimentally verify the feasibility of chain inference attacks in a direction as similar as possible to an actual federated learning environment, and further describe future research directions on membership inference attacks based on this.