본문 바로가기
KERD
논문KCI 등재

생성형 인공지능(AI) 규제원칙에 관한 연구

The study of Generative AI regulatory principles

이성엽
고려대학교 법학연구원|2023.09|고려법학 (Korea Law Review)|제110호|pp. 149-180|DOI https://doi.org/10.36532/kulri.2023.110.149

0

조회

0

다운로드

10

인용

0

참고문헌

키워드

네거티브 규제원칙중심규제위험기반규제negative regulation생성형 AI 규제신기술규제국내규제와 국제규제의 조화Generative AI regulationNew technology regulationprinciple-based regulationrisk-based regulationharmonization of domestic and international regulation
주제분류법학

초록

2015년 인공지능 알파고가 이세돌 9단에게 바둑에서 완승을 하면서 엄청난 반향을 일으킨 지 8년 만인 작년 11월에는 대화형 인공지능인 챗GPT가 등장하면서 또 한번 세계에 큰 충격을 주고 있다. 챗GPT의 등장과 함께 인류는 그동안 영화에서나 보던 로봇, 인공지능의 위험성이 현실화될 것으로 보고 AI에 대한 규제 논의를 본격화하고 있다. 생성형 AI 출시 이전에는 대체로 AI 윤리를 강화해야 한다는 의견이 지배적이었다. 이후 생성형 AI가 출시되고 이것이 게임체인저가 될 것이라는 전망이 우세해지면, EU, 미국, 한국 등 주요 국가가 생성형 AI에 대한 법적 규제 논의를 시작하고 있다. EU가 가장 먼저 입법화를 진행 중인 가운데 미국, 한국도 입법안을 마련하고 국회에서 논의가 진행 중이다. 그러나 법적 규제의 본격 도입 이전에 생성형 AI에 대한 특성을 이해하고 어떠한 원칙의 규제 방향을 설정한 것인가 중요하다. 일반적으로 신기술규제는 기술의 내용이나 특성, 규제의 시점과 지역, 규제에 따른 위험과 보상, 단계적 접근과 포괄적 접근, 전문적이면서 민주적 참여의 보장이라는 4가지 기준 내지 원칙을 도출할 수 있을 것이다. 생성형 AI는 제공된 데이터를 활용해 텍스트 뿐만 아니라 이미지, 음악, 심지어 컴퓨터 코드까지 독창적이고, 창의적인 콘텐츠를 생성할 수 있다는 점에서 엄청난 혁신의 잠재력을 지니고 있다. 생성형 AI의 기술의 발전방향이나 영향에 대한 예측이 어려워 규제를 하기 어렵지만, 그렇다고 위험성을 고려하면 전혀 규제를 하지 않는 선택도 어렵다. 규제의 방향으로는 원칙 중심 규제, 네거티브 규제, 국내규제와 국제규제의 조화, 위험기반 규제 등을 고려한 비례적 규제 원칙을 중요하게 고려해야 할 것이다.

Abstract

In November of last year, 8 years after AI AlphaGo created a sensation by beating 9th dan Lee Se-dol completely at badulk in 2015, ChatGPT, an interactive artificial intelligence, appeared, shocking the world once again. With the advent of ChatGPT, humans are starting to discuss AI regulations in earnest, believing that the dangers of robots and artificial intelligence, which have only been seen in movies, will become a reality. Prior to the release of generative AI, the prevailing opinion was that AI ethics should be strengthened. Afterwards, when generative AI is released and the prospect that it will be a game changer prevails, major countries such as the EU, the US, and Korea are starting legal discussions on generative AI. While the EU is in the process of legislating first, the US and Korea have also prepared legislative bills and are discussing them in the National Assembly. However, it is important to understand the characteristics of generative AI and set the direction of regulation before the full-scale introduction of legal regulations. In general, new technology regulation can derive four standards or principles: content or characteristics of technology, timing and region of regulation, risk and reward according to regulation, step-by-step and comprehensive approach, and guarantee of professional and democratic participation. Generative AI has tremendous potential for innovation in that it can generate original and creative content, not only text, but also images, music, and even computer code, using provided data. It is difficult to regulate because it is difficult to predict the development direction or impact of generative AI technology, but considering the risks, it is also difficult to choose not to regulate at all. In the direction of regulation, it is important to consider the principle of proportional regulation considering principle-based regulation, negative regulation, harmonization of domestic and international regulation, and risk-based regulation.

참고문헌 (31)

  1. 김태오, "제4차 산업혁명의 견인을 위한 규제패러다임 모색 : 한국의 규제패러다임을 중심으로", 경제규제와 법, 10(2), pp.140~168 (2017), 법학연구소
  2. ChatGPT는 혁신의 도구가 될 수 있을까? : ChatGPT 활용 사례 및 전망, "김태원", NIA AI Futute Strategy Center, ~ (2023)
  3. 김태호, "행정법상 비례의 원칙 ― 대법원 판례를 중심으로 ―", 공법연구, 37(4), pp.89~116 (2009), 한국공법학회
  4. 초거대언어모델의 부상과 주요 이슈 - 챗GPT의 기술적 특성과 사회적, 산업적 시사점, "안성원", SPRi, 소프트웨어정책연구소, ~, pp.ISSUE REPOPRT IS-158 (2023)
  5. 선지원, "규제 방법의 진화로서 자율규제의 실질화를 위한 연구", 행정법연구, (64), pp.99~126 (2021), 행정법이론실무학회[DOI]
  6. 유제민, "레그테크(RegTech)의 도입과 규제법학의 과제", 경제규제와 법, 12(1), pp.7~25 (2019), 법학연구소[DOI]
  7. 윤혜선, "신흥기술(emerging technologies)의 규제에 대한 몇 가지 고찰", 경제규제와 법, 10(1), pp.7~29 (2017), 법학연구소
  8. 윤혜선, "‘신흥기술 규제(emerging technologies regulation)’ 연구방법론 개발을 위한 기초연구 ― 기술규제 시 고려요소를 중심으로 ―", 행정법연구, (49), pp.103~128 (2017), 행정법이론실무학회[DOI]
  9. 이광호, "기술규제, 사례와 정책적 시사점", 경제규제와 법, 9(2), pp.143~160 (2016), 법학연구소
  10. 이성엽, "공유경제(Sharing economy)에 대한 정부규제의 필요성— 차량 및 숙박 공유를 중심으로 —", 행정법연구, (44), pp.19~41 (2016), 행정법이론실무학회
  11. 이원우, "혁신과 규제 : 상호 갈등관계의법적 구조와 갈등해소를 위한 법리와 법적 수단", 경제규제와 법, 9(2), pp.7~29 (2016), 법학연구소
  12. 이원우, "신융합산업 활성화를 위한 규제개혁입법의 현황과 과제", 경제규제와 법, 12(2), pp.137~153 (2019), 법학연구소[DOI]
  13. 2015년 기술영향평가-인공지능기술, "임성민", 미래창조과학부, 한국과학기술기획평가원, ~ (2016)
  14. 초거대 AI의 발전 양상과 향후 과제, "임효주", IITP 정보통신기획평가원, ~ (2022)
  15. 최승필, "기술발전에 따른 규제방식 전환과 그 법적 쟁점", 공법학연구, 24(2), pp.213~247 (2023), 한국비교공법학회
  16. Camille Bello, "ChatGPT: AI will shape the world on a scale not seen since the iPhone revolution", says OpenAI boss
  17. David Collingridge, "THE SOCIAL CONTROL OF TECHNOLOGY" (1980), Frances Printer
  18. "Generative AI: Perspectives from Stanford HAI, How do you think generative AI will affect your field and society going forward?", ~ (2023)
  19. Julia Black, "Really Responsive Risk-Based Regulation", Law and Policy, 32 (2010)
  20. Julia Black, "Constitutionalising Self-Regulation", The Modern Law Review, 59, pp.24~ (1996)
  21. JULIA BLACK, "MARTYN HOPPER and CHRISTA BAND, Making a success of Principles-based regulation" (2007), Law and Financial Markets Review
  22. Matthew U. Scherer, "Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies", Harvard Journal ofLaw & Technology, 29, pp.353~ (2016)
  23. "OECD Regulatory Policy Outlook 2021, Risk-based regulation:Making sure that rules are science-based, targeted, effective and efficien", ~ (2021)
  24. "On the Opportunities and Risks of Foundation Models, Center for Research on Foundation Models (CRFM)"[URL]
  25. Graphic: Samy Chahri Members' Research Service, EU Artificial intelligence act, "Tambiama Madiega", ~, pp.BRIEFING EU Legislation in Progress, PE 698.792 (2023)
  26. Timothy F. Bresnahan, "General purpose technologies ‘Engines of growth’?", Journal of Econometrics, 65(1) (1995)
  27. Thomas Fetzer, "혁신과 규제 : 동태적 시장에서의 정태적인 법 - 예측불가능한 것에 대한 규제방식", 경제규제와 법, 9(2), pp.49~63 (2016), 법학연구소
  28. TOBIAS MAHLER, "UNIVERSITY OF OSLO, Between risk management and proportionality: The risk-based approach in the EU’s Artificial Intelligence Act Proposal", ~
  29. Wojtek BUCZYNSKI, "Hard Law and Soft Law Regulations of Artificial Intelligence in Investment Management", Cambridge Yearbook of European Legal Studies, 24 (2022)
  30. Yavar Bathaee, "THE ARTIFICIAL INTELLIGENCE BLACK BOX AND THE FAILURE OF INTENT AND CAUSATION", Harvard Journal of Law & Technology, 31(2) (2018)
  31. YONG LIM, "Shifting Winds, Changing Tides Emerging Issues for Market Competition in the Next Phase of AI Evolution", 5th AI Ethics & Law Forum Seminar, 30 (2023)

관련 논문AI추천

생성형 인공지능(Generative AI) 기술의 규제 방향에 대한 입법론적 고찰 - ChatGPT 등 인공지능 시스템 생성물에 대한 표시·고지의무를 중심으로 -김정화, 임동민, 차호동대검찰청 · 형사법의 신동향2023 · 제80호생성형 인공지능의 잠재적 위험과 새로운 방향성 모색변순용한국윤리학회 · 倫理硏究2024 · 제1권 제146호인공지능 통제수단으로서 주요국 규제 입법의 동향과 시사점김법연유럽헌법학회 · 유럽헌법연구2023 · 제42호생성형 인공지능(AI) 모델의 법률 문제김윤명한국정보법학회 · 정보법학2023 · 제27권 제1호생성형 AI의 개발 및 이용에 관한 규제의 필요성 - 대규모 언어모델에 기반한 대화형 인공지능 서비스(LLMs AI)를 중심으로 -양 은 영법학연구원 · 성균관법학2023 · 제35권 제2호인공지능 관련 규범 수립의 국내외 현황과 과제이숙연사단법인 법조협회 · 법조2023 · 제72권 제1호

이 간행물의 다른 논문 (8건)

대리모를 통해 출생한 아동의 출생등록 문제에 관한 헌법적 고찰성관정pp. 1-40실질적 불법구성요건개념에 관한 고찰 - 소극적 구성요건표지이론에 대한 오해와 이해 -하태인, 강수경pp. 41-71수사상 디지털증거 압수수색 제도의 참여권에 관한 고찰성혜정pp. 73-110디스커버리와 선정당사자 제도에 관한 연구 – 선정자의 디스커버리 의무 적용이준범pp. 111-148P2E 게임산업의 규제개선에 관한 연구 - 위메이드의 ‘위믹스 사태’를 중심으로 -원지호, 박선종pp. 181-220
원문 보기