생성형 인공지능 모델에서 개인식별정보 정량화를 통한 유출 위험 평가 프레임워크
A Risk Assessment Framework for Personally Identifiable Information Leakage in Generative AI Models through Its Quantification
2
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
LLMs 와 같은 생성형 인공지능의 발전은 이를 활용한 서비스의 확산을 가속화하고 있지만, PII 유출로 인한 프라이버시 침해 위험도 증가하고 있다. 현재 미국 NIST, DHS, HIPAA 등 여러 기관에서 PII 유출에 대한 위험 평가 기준을 제시하고 있으나, 각기 상이한 기준으로 일관된 위험 평가 수행에 한계점을 보인다. 본 연구는 PII 유출로 인한 위험 수준을 정량적으로 평가할 수 있는 통합 프레임워크를 제안한다. 이를 위해, 기존 PII 위험 평가 기준을 종합하여 3단계 위험 수준을 정의하고, PII 속성별 정량적 평가 점수 산출 모델을 설계하였다. 또한, 실제 데이터셋을 이용하여 제안된 프레임워크의 실효성을 검증함으로써 AI 환경에서 PII 보호를 위한 체계적인 위험 평가 방법론을 제시한다.
Abstract
The advancement of Large Language Models has accelerated the proliferation of data-driven AI services, but also heightened the risk of privacy breaches from PII exposure. While institutions such as NIST, DHS, and HIPAA provide PII risk assessment standards, their inconsistencies hinder consistent evaluation. This study proposes an integrated framework to quantitatively assess PII risk levels by consolidating existing criteria into a three-tier classification and designing a scoring model based on PII attributes. The framework’s effectiveness is validated using real-world datasets, offering a systematic methodology for PII risk assessment in AI environments.