본문 바로가기
KERD
논문KCI 등재

생성형 인공지능(Generative AI) 기술의 규제 방향에 대한 입법론적 고찰 - ChatGPT 등 인공지능 시스템 생성물에 대한 표시·고지의무를 중심으로 -

Legislative Study on Directions Concerning Regulation of Generative Artificial Intelligence (AI) Systems - Focusing on Duty to Disclosure and Transparency Regarding the Creations of Generative AI Systems Such as ChatGPT -

임동민|김정화|차호동
대검찰청|2023.09|형사법의 신동향 (Contemporary Review of Criminal Law)|제80호|pp. 245-283|DOI 10.23026/crclps.2023..80.007

0

조회

0

다운로드

16

인용

0

참고문헌

키워드

고지의무생성형 인공지능TransparencyChatGPTGenerative AI딥페이크Deepfake표시의무투명성 원칙Duty to DisclosureRe gulation of Generative AI

초록

2022년 12월, ChatGPT 서비스가 출시된 이래, 이른바 생성형 인공지능(Generative AI)에대한 관심이 높아지고 있다. 하나의 인격체처럼 대화하고, 인간보다 빠르게 글을 쓰고, 심지어는 미술, 작곡 등 예술 분야에서까지 인간의 능력을 위협하는 생성형 인공지능에 대하여 사람들은 큰 기대와 깊은 우려를 동시에 갖게 되었다. 기존의 머신러닝 알고리즘을 기반으로 하는 인공지능은 주어진 특정 데이터를 기초로 어떠한 결과를 예측하는 수준에 머물렀지만, 딥러닝 생성 모델을 기반으로 하는 생성형 인공지능은 과거에 보지 못한 글과 음성, 영상 등 완전히 새로운 데이터를 생성해낼수 있다는 점에서 기존의 인공지능과는 확연히 구별되는 새로운 형태의 인공지능이다. 한편, 생성형 인공지능으로 인한 다양한 문제가 발생하기 시작했다. 타인의 사진을이용하여 딥페이크 포르노나 조롱거리가 될 만한 영상을 제작하는 사례부터, 챗봇에 정서적으로 의존한 나머지 챗봇의 자살 권유에 따라 자살에 이르는 사례까지 생성형인공지능은 무한히 활용 가능한 만큼, 무한히 오용가능하다는 점이 드러나고 있다. 생성형 인공지능의 생성물은 실제와 구별하기 어려울 정도로 정교하기 때문에 오용에따른 위험이 현저함에도 불구하고, 우리 현행법은 이에 대응하는 데에 한계가 있다. 생성형 인공지능에 대한 포괄적 규제는 초기 성장 단계에 있는 인공지능 기술의 발전을 저해시킬 수 있다는 점에서 성급히 도입되어서는 안 된다. 그러나 현재 발생하고있는 문제상황에 대응하기 위한 과도기적 규제는 필요하다. 첫째, ‘이용자’에게는 명예훼손 목적, 범죄이용목적 등으로 생성형 인공지능 시스템을 활용하는 행위를 금지할필요가 있다. 둘째, ‘제공자’에게는 인공지능 생성물에 대하여 인공적인 방법으로 제작된 것임을 나타내는 표시를 하게 할 필요가 있다. 셋째, 생성물의 위험의 정도에 따라규제의 정도를 차등하고, 규제 위반에 대한 형사벌과 행정벌을 혼용하는 등 과도기적상황에 유연하게 대처할 수 있어야 한다.

Abstract

Since the launch of ChatGPT in the United States last year, generativ e AI has garnered considerable attention throughout the world. It has al so raised serious concerns, however, due to its human-like ability to c ommunicate with people in lots of different social contexts, produce a wide variety of written contents, and create a multitude of images, audios, and videos, all of which were impossible with traditional search eng ines. In line with these concerns, this paper will discuss some of the l egal implications of generative AI, the misuse of which can bring signifi cant harms to both individuals and society at large. This paper will firs t examine the definition and types of generative AI, then discuss the i mportance of and the need for proper categorization of it. The paper wi ll also discuss specific cases of misuse of generative AI systems, whic h will be looked into from the perspectives of service providers and us ers. The paper will next discuss how to regulate use of generative AI, while promoting its technological advancement and ensuring protection o f fundamental rights of citizens. Finally, the paper will conclude with se tting out recommendations for regulation of generative AI, with a partic ular focus on duty to disclose and maintain transparency.

참고문헌 (52)

  1. 계승균, "법규범에서 인공지능의 주체성 여부", 법조, 66(4), pp.158~196 (2017), 법조협회[DOI]
  2. 고학수, "인공지능 윤리규범과 규제 거버넌스의 현황과 과제", 경제규제와 법, 13(1), pp.7~36 (2020), 법학연구소[DOI]
  3. 김광수, "인공지능 규제의 법체계", 토지공법연구, 93, pp.217~243 (2021), 한국토지공법학회
  4. 김광수, "인공지능 알고리즘 규율을 위한 법제 동향 — 미국과 EU 인공지능법의 비교를 중심으로 —", 행정법연구, (70), pp.173~201 (2023), 행정법이론실무학회[DOI]
  5. 김희정, "인공지능 윤리와 형사정책적 시사점 - 형사사법에서의 인공지능 윤리 이슈를 중심으로 -", 형사정책, 34(1), pp.79~110 (2022), 한국형사정책학회
  6. 박아란, "‘가짜뉴스’와 온라인 허위정보(disinformation) 규제에 대한 비판적 검토", 언론정보연구, 56(2), pp.113~155 (2019), 언론정보연구소[DOI]
  7. 오병택, "디지털 워터마킹 기술동향 및 전망", 전자통신동향분석, 17(6) (2002)
  8. 윤상필, "건전한 인공지능 생태계 형성을 위한 규범적 전략과 법의 역할", 홍익법학, 18(2), pp.1~29 (2017), 법학연구소[DOI]
  9. 윤성옥, "가짜뉴스 규제 법안의 특징과 문제점", 언론과 법, 18(1), pp.103~138 (2019), (사)한국언론법학회[DOI]
  10. 이상현, "SNS상 개인정보 무단 수집․보관․유포 및타인사칭에 대한 형사법 연구", 형사정책연구, 25(3), pp.1~33 (2014), 한국형사법무정책연구원
  11. 이숙연, "인공지능 관련 규범 수립의 국내외 현황과 과제", 법조, 72(1), pp.442~488 (2023), 법조협회[DOI]
  12. 임석순, "형법상 인공지능의 책임귀속", 형사정책연구, 27(4), pp.1~23 (2016), 한국형사법무정책연구원
  13. 정남철, "유럽연합(EU) 인공지능규범의 제정과 특징", 유럽헌법연구, (38), pp.215~242 (2022), 유럽헌법학회[DOI]
  14. 정완, "온라인 타인사칭(Online Impersonation)의 법적책임에 대한 연구", 홍익법학, 19(2), pp.395~425 (2018), 법학연구소[DOI]
  15. 황만성, "인공지능의 형사책임에 관한 소고", 법과정책, 24(1), pp.361~384 (2018), 법과정책연구원[DOI]
  16. 개인정보보호위원회, "이루다 개발사 ㈜스캐터랩에 대한 과징금, 과태료 등 제재처분", 보도자료, ~ (2021)
  17. 미국 인공지능 법제, "법제처", 법제처, ~ (2019)
  18. 양향자, "인공지능산업 육성에 관한 법률안(의안번호 3515호)", ~
  19. 윤두현, "인공지능산업 육성 및 신뢰 확보에 관한 법률안(의안번호18726호)", ~
  20. 윤영찬, "알고리즘 및 인공지능에 관한 법률안(의안번호 13509호)", ~
  21. 이상민, "인공지능 연구개발 및 산업 진흥, 윤리적 책임 등에 관한 법률안(의안번호 1823호)", ~
  22. 이용빈, "인공지능에 관한 법률안(의안번호 11573호)", ~
  23. "민형배 의원대표발의, 인공지능 기술 기본법안(의안번호 4772호)", ~
  24. 신규 저작권 침해유형 및 이슈 – 딥 페이크와 저작권 침해 -, "한국저작권보호원", ~ (2021)
  25. 황희, "인공지능책임법안(의안번호 20353호)", ~
  26. Cary Coglianese, "Regulating Machine Learning: The Challenge of Heterogenity", Competition Policy International: TechReg Chronicle (2023)
  27. Chris Lewis, "The Need for a Legal Framework to Regulate the Use of Artificial Intelligence", University of Dayton Law Review, 47(2) (2022)
  28. Council of the European Union, "Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on arti ficial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts - General approach", ~ (2022)
  29. Hind Benbya, "Artificial Intelligen ce in Organizations: Current State and Future Opportunities", MIS Quarterly Executive, 19(4), pp.4~ (2020)
  30. Iryna Pentina, "Exploring relationship dev elopment with social chatbots : A mixed-method study of replika", Computers in Human Behavior, 140 (2023)
  31. Linnea Laestadius, "Too human and not human enough: A grounde d theory analysis of mental health harms from emotional dependence on the social chatbot Replika", new media & society, 1(19) (2022)
  32. Philipp Hacker, "Regulating ChatGPT and other Large Generative AI Models" (2023)
  33. "CONGRESS GOV"[URL]
  34. "China Proposes Draft Measures to Regulate Generative AI"[URL]
  35. "Types of generative AI"[URL]
  36. European Commission, "Proposal for a Regulation of the European Parliame nt and of the Council Laying Down Harmonised Rules on Artificial Intellience (Artificial Intelligence Act) and Amending Certain Union Legislative Acts", ~ (2021)
  37. ChatGPT – The Impact of Large Language Models on Law enforc ement, "Europol", Tech Watch Flash, ~ (2023)
  38. "From deepfakes to TikTok filters: How do you label AI content?"[URL]
  39. "Chatbots, deepfakes, and voice clones: AI deception for sale"[URL]
  40. "Lexis Nexis StateNet"[URL]
  41. "Doctor GPT-3: hype or reality?"[URL]
  42. "Married father commits suicide after encouragement by AI Chatbot : Widow"[URL]
  43. "What Is a Transformer Model?"[URL]
  44. "OpenAi 홈페이지 설명"[URL]
  45. "DEEPFAKES Accountability Act would impose unenforceablerules — but it’s a start"[URL]
  46. "Biden Administration ramps up efforts to regulate ChatGPT"[URL]
  47. "Pressured by Biden, A.I. Companies Agree to Guardrails on New Tools"[URL]
  48. "ChatGPT invented a sexual harassment scandal and named a real law prof as the accused"[URL]
  49. "They fell in love with AI bots. A software update broke their hearts"[URL]
  50. "They thought loved ones were calling for help. It was an AI scam"[URL]
  51. "The Science Behind Replika Chatbot’s Empathetic Responses"[URL]
  52. "AI Accountability Policy Request for Comment"[URL]

관련 논문AI추천

생성형 AI의 개발 및 이용에 관한 규제의 필요성 - 대규모 언어모델에 기반한 대화형 인공지능 서비스(LLMs AI)를 중심으로 -양 은 영법학연구원 · 성균관법학2023 · 제35권 제2호생성형 인공지능과 관련한 지적재산권 쟁점에 대한 검토김도경법학연구소 · The Journal of Law & IP2024 · 제14권 제2호인공지능 통제수단으로서 주요국 규제 입법의 동향과 시사점김법연유럽헌법학회 · 유럽헌법연구2023 · 제42호생성형 인공지능(AI) 규제원칙에 관한 연구이성엽고려대학교 법학연구원 · 고려법학2023 · 제110호생성형 AI가 야기하는 형사법적 문제와 대응방향 - 가짜뉴스와 딥페이크 음란물을 중심으로 -류부곤한국비교형사법학회 · 비교형사법연구2024 · 제26권 제3호생성형 AI의 활용에 따른 저작권 침해와 형사정책적 개선방안강미영법학연구소 · 법학연구2025 · 제66권 제1호

이 간행물의 다른 논문 (7건)

선장에 대한 특별사법경찰권 부여 제도 폐지 및 그 대안에 관한 연구송관호pp. 1-33정보저장매체 ʻ압수ʼ의 검토 - 형사소송법 제106조 제3항 단서의 해석을 중심으로 -조은별pp. 34-76사기죄의 보호법익과 처벌범위에 대한 고찰 - 소비자보호의 관점에서 -박상진pp. 77-102조세범처벌법상 조세포탈의 고의에 관한 검토 - 납세의무의 인식과 이에 대한 착오를 중심으로 -신호인, 권형기pp. 103-137압수･수색 영장의 ʻ대면심리제도 도입ʼ에 관한 비판적 검토조광훈pp. 138-202
원문 보기