본문 바로가기
KERD
논문KCI 등재

생성형 AI 활용 단계에서의 개인정보 보호법적 쟁점과 기술적 해결방안

Legal Issues and Technical Solutions for Personal Data Protection in the Utilization of Generative AI

현민성|육소영|임을영
법학연구소 (The Institute of Legal Studies Konkuk University)|2024.12|The Journal of Law & IP|제14권 제2호|pp. 187-249|DOI 10.23190/lawnip.2024.14.2.005

0

조회

0

다운로드

0

인용

0

참고문헌

키워드

개인정보 보호법생성형 AIGenerative AIPersonal Data Protection Act가명처리 기술데이터 활용과 규제의 균형프라이버시 보호 기술Pseudonymization TechniquesBalance of Data Utilization and RegulationPrivacy Protection Technology
주제분류법학

초록

생성형 AI는 의료, 법률, 제조, 예술 등 다양한 산업 분야에서 혁신적인 가치를 창출하며 빠르게 발전하고 있다. 이러한 기술의 발전은 생산성 향상, 비용 절감, 창의성 증진 등 다양한 긍정적 효과를 가져오며 사회 전반에서 그 중요성이 더욱 강조되고 있다. 그러나 생성형 AI의 도입과 활용 과정에서 개인정보보호 문제는 여전히 해결해야 할 주요 과제로 떠오르고 있으며, 이를 해결하기 위한 실질적이고 구체적인 접근법이 요구된다. 본 논문은 생성형 AI 활용 과정에서 발생할 수 있는 개인정보 보호법적 쟁점을 체계적으로 분석하고, 이를 해결하기 위한 기술적 방안을 제안하고, 제안하는 방안에 관한 법적 타당성을 검토하였다. 특히, 개인정보의 가명처리와 익명처리를 활용하여 개인정보 보호와 데이터 활용 간의 균형을 맞추는 방안을 중점적으로 논의하였다. 제안된 시스템은 프롬프트에 포함된 개인정보를 가명처리하거나 익명처리함으로써 개인정보 유출 위험을 최소화하면서도, 생성형 AI의 강력한 기능을 안전하게 활용할 수 있도록 설계되었다. 가명처리는 개인정보 보호법의 범위 내에서 데이터 활용을 가능하게 하며, 익명처리는 법적 규제를 초월하여 더욱 자유로운 활용을 가능하게 한다. 본 시스템은 두 가지 방식을 모두 지원함으로써 상황과 목적에 따라 적합한 접근 방식을 선택할 수 있는 유연성을 제공한다. 이러한 시스템은 개인정보 보호와 AI 기술 활용의 조화를 이루는 실질적인 대안을 제시하며, 개인정보처리자가 법적 신뢰를 바탕으로 생성형 AI를 활용할 수 있는 환경을 조성한다. 결론적으로, 생성형 AI의 성공적 도입과 활용을 위해서는 기술적 발전과 법적 규제 간의 균형을 맞추는 노력이 필수적이다. 본 논문은 생성형 AI와 개인정보 보호라는 도전 과제를 해결할 실질적 기반을 마련하며, 데이터 활용의 잠재력을 극대화하고 기술에 대한 사회적 신뢰를 증진시키는 데 기여할 것이다.

Abstract

Generative AI is rapidly advancing, creating innovative value across various industries, including healthcare, law, manufacturing, and art. These technological advancements bring numerous positive effects, such as increased productivity, cost savings, and enhanced creativity, further highlighting their importance in society. However, the adoption and utili(ation of generative AI continue to face significant challenges regarding personal data protection, necessitating practical and concrete approaches to address these issues. This paper systematically analy(es legal issues related to personal data protection that may arise during the use of generative AI and proposes technical solutions to address these challenges while providing a legal evaluation of the proposed measures. Specifically, it focuses on achieving a balance between data protection and data utili(ation by leveraging pseudonymi(ation and anonymi(ation techniques. The proposed system is designed to mitigate the risk of data breaches by pseudonymi(ing or anonymi(ing personal data included in prompts while enabling the secure use of generative AIʼs powerful capabilities. Pseudonymi(ation facilitates data utili(ation within the legal framework of personal data protection, while anonymi(ation enables more flexible and unrestricted use by operating outside the scope of legal regulations. The system supports both approaches, offering flexibility to choose the appropriate method based on the situation and purpose. This dual approach provides a practical solution that harmoni(es personal data protection with the utili(ation of AI technology, fostering an environment where data controllers can confidently employ generative AI under legal trust. In conclusion, the successful adoption and utili(ation of generative AI require balancing technological advancement with legal compliance. This paper establishes a practical foundation to address the challenges of integrating generative AI with personal data protection, maximi(ing the potential of data utili(ation while enhancing public trust in AI technology.

참고문헌 (50)

  1. Aurelien Geron, "핸즈온 머신러닝" (2020), OʼReilly Media
  2. 기업의 생성형AI 사용 현황 2024년 3분기 보고서, "Deloitte", ~ (2024)
  3. 개인정보보호위원회, "가명정보 처리 가이드라인", ~ (2024)
  4. 개인정보보호위원회, "개인정보 보호 법령 및 지침·고시 해설", ~ (2020)
  5. 개인정보보호위원회, "알기쉬운 개인정보 처리 동의 안내서", ~ (2022)
  6. 인공지능 시대 안전한 개인정보 활용 정책방향, "개인정보보호위원회", ~ (2023)
  7. 2021 개인정보보호 실태 조사 보고서, "개인정보보호위원회", ~ (2022)
  8. 국가정보원, "챗GPT 등 생성형 AI 활용 보안 가이드라인", ~ (2023)
  9. 디지털플랫폼정부위원회, "공공부문 초거대 AI 도입·활용을 위한 가이드라인", ~ (2024)
  10. 행정안전부, "챗GPT 활용방법 및 주의사항 안내", ~ (2023)
  11. 데이터 3법 개정의 주요 내용과 전망, "강달천", KISA, ~, pp.KISA REPORT 2020, vol.2 (2020)
  12. 개인정보 제3자 제공을 둘러싼 몇 가지 쟁점에 대하여, "강태욱", Naver, ~ (2023)
  13. 클라우드컴퓨팅서비스 이용과 국외이전, "김경하", ~, pp.2024 개인정보 이슈 심층 분석 보고서, Vol.4 (2024)
  14. 김근용, "온디바이스 소형언어모델 기술개발 동향", 전자통신동향분석, 39(4) (2024)
  15. 박노형, "개정된 개인정보 보호법상 개인정보의 국외이전에 관한 규정의 분석 : GDPR을 참조하여", 고려법학, (109) (2023)
  16. 설성호, "AI 파운데이션 모델의 발전과 영국의 경쟁 이슈 검토 동향", 전자통신동향분석, 39(2) (2024)
  17. 개인정보 보호법 전면개정 : 주요내용 살펴보기, "손도일", LAWnB, ~, pp.LAWnB Legal Essential Report, Vol.18 (2023)
  18. 윤성연, "생성형 AI 트렌드 및 활용사례 분석", 문화기술의 융합, 10(4) (2024)
  19. 이소은, "개인정보 보호법의 주요 개정 내용과 그에 대한 평가 : 개인정보 처리의 정당화 사유를 중심으로", Ewha Law Journal, 24(3) (2020)
  20. 이해원, "개정 개인정보 보호법의 민사법적 쟁점", 법조, 72(3) (2023)
  21. 조민호, "인공지능의 역사, 분류 그리고 발전 방향에 관한 연구", 한국전자통신학회 논문지, 16(2) (2021)
  22. "개인정보보호위원회 2021. 4. 28. 결정 제2021-007-072호", ~ (2021)
  23. "대법원 2017. 4. 7. 선고 2016도13263 판결", ~ (2017)
  24. "대법원 2014. 7. 24. 선고 2012다49933 판결", ~ (2014)
  25. "대법원 2015. 10. 15. 선고 2014다77970 판결", ~ (2015)
  26. "대법원 2018. 7. 12. 선고 2016두551178 판결", ~ (2018)
  27. "헌법재판소 2004헌마190(병합) 결정", ~ (2004)
  28. "헌법재판소 2020. 3. 26 2018헌마77·283·1024(병합) 결정", ~ (2020)
  29. "헌법재판소 2005. 5. 26. 선고 99헌마513 결정", ~ (2005)
  30. "헌법재판소 2023. 10. 26. 선고 2020헌마1476 전원재판부 결정", ~ (2023)
  31. European Data Protection Board, "Guidelines 05", 2020 on consent under Regulation 2016, pp.2020, ~
  32. European Data Protection Board, "Guidelines 06", 2020 on the interplay of the Second Payment Services Directive and the GDPR, 2020
  33. "Capital Market Consequences of Generative AI: Early Evidence from the Ban of ChatGPT in Italy" (2023)[URL]
  34. "On the Opportunities and Risks of Foundation Models" (2021)[URL]
  35. Goodfellow, I., "Generative Adversarial Nets", NeurIPS (2014)
  36. "Distilling the Knowledge in a Neural Network" (2015)[URL]
  37. Hsu, A. S., "Effects of generative and discriminative learning on use of category variability", Proceedings of the Annual Meeting of the Cognitive Science Society, 32 (2010)
  38. "Investigating the performance of Retrieval-Augmented Generation and fine-tuning for the development of AI-driven knowledge-based systems" (2024)[URL]
  39. "Small Language Models: Survey, Measurements, and Insights" (2024)[URL]
  40. Radford, A., "Language Models are Unsupervised Multitask Learners", OpenAI, ~ (2019)
  42. Data Protection Commission, "Decision of the Data Protection Commission pursuant to Section 113 of the Data Protection Act, and Articles 60 and 65 of the GDPR", ~ (2022)
  43. European Commission, "Commission Implementing Decision of 17.12.2021 pursuant to Regulation (EU) 2016", 679 of the European Parliament and of the Council on the adequate protection of personal data by the Republic of Korea under the Personal Information Protection Ac, 2021
  44. "OpenAI forms exclusive computing partnership with Microsoft to build new A(ure AI supercomputing technologies" (2019)[URL]
  45. "삼성전자, 업무에 챗봇 사용하면 해고" (2023)[URL]
  46. "챗GPT 유지 만만찮네…ʻ하루 운영비 9억원 넘어ʼ" (2023)[URL]
  47. "Azure global infrastructure"[URL]
  48. "ISMS-P 인증서 발급현황"[URL]
  49. "OpenAI – ChatGPT and Security and Risks"[URL]
  50. "Open LLM Leaderboard"[URL]

관련 논문AI추천

생성형 인공지능을 활용한 판결문 공개 제도 개선: 개인정보 보호와 알 권리 균형을 위한 법적·기술적 접근임을영, 현민성한국지식재산연구원 · 지식재산연구2025 · 제20권 제2호생성형 인공지능(Generative AI) 기술의 규제 방향에 대한 입법론적 고찰 - ChatGPT 등 인공지능 시스템 생성물에 대한 표시·고지의무를 중심으로 -김정화, 임동민, 차호동대검찰청 · 형사법의 신동향2023 · 제80호생성형 AI의 포괄적 로그 데이터 보존 명령의 법적 한계와 이용자 보호를 위한 규범 설계이형석법학연구원 · 성균관법학2025 · 제37권 제3호생성형 인공지능 관련 범죄 위협 분류 및 대응 방안김민수, 박우빈, 박윤지, 유혜진, 정두원한국정보보호학회 · 정보보호학회논문지2024 · 제34권 제2호생성형 AI와 저작권 침해 이슈의 기술적 고찰윤영선한국소프트웨어감정평가학회 · 한국소프트웨어감정평가학회 논문지2024 · 제20권 제3호생성형 AI와 투명성문현지, 이병준한국소비자원 · 소비자문제연구2025 · 제56권 제3호

이 간행물의 다른 논문 (5건)

패밀리룩 상품 포장 디자인과 부정경쟁방지법상 상품주체 혼동행위의 관계 연구 - 서울고등법원 2021. 12. 16. 선고 2021나2017769 판결을 중심으로 -정태호pp. 1-58오픈소스 및 생성형 AI 환경에서의 소프트웨어 저작권 관련 쟁점들이철남pp. 59-93생성형 인공지능과 관련한 지적재산권 쟁점에 대한 검토김도경pp. 95-151문화콘텐츠 사재기에 대한 실무적 개선 방향 - 음원 사재기 대책 방안을 중심으로 -이재경pp. 153-185상표법상 설문조사의 증명력에 관한 연구 - 미국과 국내의 소비자 설문조사를 비교하여 -김희태, 육소영pp. 251-305
원문 보기