SafeDP-Rewrite: 블랙박스 LLM을 이용한 차분 프라이버시 기반 텍스트 재작성
SafeDP-Rewrite: Differentially Private Text Rewriting with Black-Box Access to Large Language Models
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
텍스트 데이터는 현대 기계학습 응용에서 핵심적 자원이지만, 민감한 정보를 포함하는 경우가많아 공유 과정에서 개인정보 유출 위험이 발생할 수 있다. 차분 프라이버시(differential privacy, DP)는 데이터 공유 과정에서 프라이버시 유출 방지를 이론적으로 보장하며, 최근에는 대규모 언어모델(LLM) 기반 텍스트 재작성 기법에도 활용되고 있다. 그러나 기존 연구들은 LLM 모델 내부구조에 접근할 수 있는 화이트박스 환경을 전제로 하여, 실제와 같은 블랙박스 API 환경에서는활용이 어렵다는 한계가 있다. 본 논문에서는 이러한 제약을 해결하기 위해 SafeDP-Rewrite라는LLM 블랙박스 기반 DP 텍스트 재작성 기법을 제안한다. 제안 방식은 무작위 마스킹을 통해 다양한 후보 텍스트를 생성하고, 지수 메커니즘을 적용하여 DP를 보장하는 최종 텍스트를 선택한다. SafeDP-Rewrite는 추가 학습이나 내부 정보 접근이 필요 없으며, 단순하고 실용적인 활용이 가능하다. 실데이터셋을 이용한 실험 결과, 제안 기법은 문장의 의미와 유창성을 유지하면서도 프라이버시와 유용성을 동시에 확보할 수 있음을 보였다.
Abstract
Text data is a critical resource in modern machine learning applications but often contains sensitive information, creating risks of privacy leakage when shared. Differential privacy (DP) provides a theoretical guarantee to prevent such leakage during data sharing, and recent work has explored its application to text rewriting using large language models (LLMs). However, most existing approaches assume a white-box setting with access to internal LLM model structures, making them impractical in real-world scenarios where only black-box API access is available. To address this limitation, we propose SafeDP-Rewrite, a DP-based text rewriting method that operates entirely in the black-box setting of LLMs. The proposed method generates diverse candidate sentences through random masking and applies the exponential mechanism to ensure DP in the final output. SafeDP-Rewrite requires neither additional training nor access to internal model information, making it simple and practical to deploy. Experiments on real-world datasets demonstrate that the proposed method preserves semantic fidelity and fluency while simultaneously achieving both privacy protection and utility.