본문 바로가기
KERD
논문KCI 등재

인공지능 통제수단으로서 주요국 규제 입법의 동향과 시사점

Trends and Implications of Regulatory Legislation in Major Countries as a means of Controlling Artificial Intelligence

김법연
유럽헌법학회|2023.08|유럽헌법연구|제42호|pp. 253-307

0

조회

0

다운로드

6

인용

0

참고문헌

키워드

인공지능법Artificial Intelligence Act인공지능 규제Artificial Intelligence Regulation인공지능 입법동향인공지능 위험 통제인공지능 규제동향Artificial Intelligence Legislative TrendsArtificial Intelligence Risk ManagementArtificial Intelligence Regulatory Trends

초록

주요국은 인공지능 위험을 통제하기 위하여 인공지능에 대한 규제 입법을 마련하고 있다. 인공지능으로 인한 위험을 구체화하는 것으로부터 출발해서, 위험성이 높은 인공지능에 대하여는 다양한 통제수단들을 적용하고 있다. 인공지능을 개발ㆍ적용ㆍ배포ㆍ사용하는 사업자 등에 대하여 데이터 관리, 인공지능시스템과 서비스에 대한 품질관리, 위험관리, 기록관리, 개인정보보호 등의 의무를 부과하는 것을 주요 내용으로 한다. 사용자에 대해서는 설명요구권이나 피해구제를 적절하게 받을 수 있도록 권리를 보장하고 있다. 인공지능의 자율성이나 예측불가능성, 불확실성 등으로 인해 그 동안의 규제 체계 내에서 포섭하지 못하는 문제점들을 해소하기 위해 다양한 위험 통제수단들을 마련하고 있는 것이다. 이에 반해 한국은 아직까지는 위험 통제에 대한 것보다 법제도적 관심이 산업의 진흥이나 기술 발전을 위한 기반 마련이나 이를 통한 국가경쟁력 확보 등에 있는 듯하다. 인공지능기술이 빠르게 발전하고 있고 특히 최근에는 ChatGPT와 같은 생성형 AI 등의 등장으로 변화가 급격하게 다른 양상으로 일어날 것으로 예상되고 있다. 인공지능 위험은 더욱 불확실하고 예측 불가능한 상태로 나타날 가능성이 높아지고 있다. 이러한 상황에서 인공지능 기술의 효용은 극대화하고 위험성은 최소화하여 기술의 이기를 누릴 수 있는 제도적 기반을 마련하는 것은 우리 사회의 중요한 과업이라 할 수 있다. 이에 본 논문은 주요국에서 인공지능의 위험을 통제하는 방식과 내용을 검토ㆍ비교분석을 실시하였다. 주요국의 입법동향 확인을 통해 시사점을 도출하고, 국내 인공지능 규제 도입시 적정한 설계 방향과 통제 수단들을 제안하였다.

Abstract

Major countries have establsihed the legislative regulatations to control the risks of AI. Starting from concretizing the risks associated with AI, various control measure are applied to AI with higher risks. For businesses involved in the development, application, deployment, use of AI, the main focus of the control measures is on the data management, quality control of AI systems and services, risk management, record management, personal information protection. For users of high-risk AI systems, the focus is on ensuring the right to request explanations and receive appropriate compensation for damages. These measures are being put in place to overcome the issues that traditional regulatory systems were unable to address due to AI's autonomy, unpredictability, and uncertainty. In contrast, South Korea seems to be more concerned with the legal framework for industrial promotion and technological development, and for securing national competitiveness, rather than risk control. The rapid development of AI technology, especially with the emergence of generative AI such as ChatGPT, is leading to abrupt and significant changes. Therefore, the possibility of AI risks appearing in an increasingly uncertain and unpredictable state is high. In such a situation, maximizing the utility of AI technology and minimizing its risks to enjoy its benefits is an important task for our society. This paper has reviewed and comparatively analyzed how major countries control the risks of AI. By identifying the legislative trends in major countries, By identifying the legislative trends in major countries, we have drawn insights and proposed appropriate design directions and control measures for the introduction of AI regulations in South Korea.

참고문헌 (42)

  1. 권은정, "자동적 처분에 대한 통제 수단으로서의 알고리즘 영향평가", 국가법연구, 19(2), pp.121~148 (2023), 사단법인 한국국가법학회[DOI]
  2. 선지원, "인공지능 알고리즘 규율에 대한 소고- 독일의 경험을 중심으로 -", 경제규제와 법, 12(1), pp.26~43 (2019), 법학연구소[DOI]
  3. 박혜성, "인공지능 통제를 위한 규제의 동향과 시사점", 정보법학, 25(2), pp.1~39 (2021), 한국정보법학회
  4. 신성필, "초거대 AI의 기반모델(Foundation Model) 개념 및 표준화 동향", 정보와 통신, 40(6) (2023), 한국통신학회
  5. ChatGPT를 넘어 생성형(Generative)AI 시대로 : 미디어·콘텐츠 생성형 AI서비스 사례와 경쟁력 확보 방안, "양지훈", 한국방송통신전파진흥원, ~, pp.Media Issue & Trend Domestic Report Vol.55 (2023)
  6. 이상우, "중국 알고리즘 거버넌스에 관한 소고 - 「인터넷 정보 서비스 알고리즘 추천 관리 규정」을 중심으로 -", 동북아법연구, 16(1), pp.25~62 (2022), 동북아법연구소
  7. 이효진, "인공지능(AI) 단일법 제정 필요성과 행정법학의 과제", 법학논총, 35(3), pp.9~57 (2023), 법학연구소[DOI]
  8. 정남철, "유럽연합(EU) 인공지능규범의 제정과 특징", 유럽헌법연구, (38), pp.215~242 (2022), 유럽헌법학회[DOI]
  9. 최경미, "디지털서비스 투명성･개인정보보호･위기대응에 관한 법 연구 ― EU 디지털서비스법(DSA)을 중심으로 ―", 미국헌법연구, 33(3), pp.177~214 (2022), 미국헌법학회
  10. 홍석한, "미국 “2022 알고리즘 책임법안”에 대한 고찰", 미국헌법연구, 34(1), pp.73~107 (2023), 미국헌법학회
  11. Alec Radford, "Learning transferable visual models from natural language supervision", International conference on machine learning (2021), PMLR
  12. Anaïs Rességuie, "AI ethics should not remain toothless! A call to bring back the teeth of ethics", Big Data and Society, 7(2) (2020)
  13. Andrew Ng, "On spectral clustering : Analysis and an algorithm", Advances in neural information processing systems, 14 (2001)
  14. Ben Wagner, "BEING PROFILED:COGITAS ERGO SUM: COGITAS ERGO SUM: 10 Years of Profiling the European Citizen" (2018), Amsterdam University Press
  15. Daniel Greene, "Better, Nicer, Clearer, Fairer: A Critical Assessment of the Movement for Ethical Artificial Intelligence and Machine Learning", Proceedings of the 52nd Hawaii International Conference on System Sciences (2019)
  16. Goertzel, Ben, "Artificial general intelligence : concept, state of the art, and future prospects", Journal of Artificial General Intelligence, 5(1) (2014)
  17. Håkan HYDÉN, "AI, Norms, Big Data, and the Law", Asian Journal of Law and Society, 7(3) (2020)
  18. Hinton Geoffrey E., "Reducing the dimensionality of data with neural networks", science, 313(5786) (2006)
  19. Ian J. Goodfellow, "Generative adversarial networks", Communications of the ACM, 63(11) (2020)
  20. John Frank Weaver, "Everything Is Not Terminator What Does the Executive Order Calling for Artificial Intelligence Standards Mean for AI Regulation?", RAIL: The Journal of Robotics, Artificial Intelligence & Law, 2(5) (2019)
  21. Leon A. Gatys, "A neural algorithm of artistic style", Available at: arXiv preprint arXiv:1508.06576, ~ (2015)
  22. Timothy P. Lillicrap, "Continuous control with deep reinforcement learning", Published as a conference paper at ICLR 2016 (2016)
  23. Luciano Floridi, "Translating Principles into Practices of Digital Ethics : Five Risks of Being unethical", Philosophy &Technology, 32 (2019)
  24. Schmidhuber. Jürgen, "Learning complex, extended sequences using the principle of history compression", Neural Computation, 4(2) (1992)
  25. "Experimental Evidence on the Productivity Effects of enerative Artificial Intelligence" (2023)[URL]
  26. Tom B. Brown, "Language Models are Few-Shot Learners", Proceedings of the 34th International Conference on Neural Information Processing Systems (2020)
  27. 久木田水生, "技術開発に倫理を組み込むこと : 人工知能の事例から", 日本原子力学会誌, 62(2) (2020)
  28. 윤혜선, "생성형 AI와 리스크 관리", ｢생성형 AI, 기회와 우려, 그리고법적 과제｣ 서울대학교 공익산업법센터 제90회 학술세미나 (2023), 서울대학교 공익산업법센터
  29. "Unpacking the Cybersecurity Risks of Artificial Intelligence (AI)"[URL]
  30. David Freeman Engstrom, "Government by Algorithm: Artificial Intelligence in Federal Administrative Agencies", Report Submitted to the Administrative Conference of the United States (2020)
  31. WHITE PAPER On Artificial Intelligence - A European approach to excellence and trust, "European Commission", ~ (2020)
  32. "Europe fit for the Digital Age: Commission proposes new rules and actions for excellence and trust in Artificial Intelligence"[URL]
  33. European Parliament Commtiiee on the Market and Consumer Protection·Committee in Civil Liberties, Hustice and Home Affairs, "Draft Compromise Amendments on the Draft Report, Version 1.1", ~ (2023)
  34. "What It Takes to Make AI Safe and Effective" (2022)[URL]
  35. "Explaining decisions made with AI" (2019)[URL]
  36. "How We Analyzed the COMPAS Recidivism Algorithm" (2016)[URL]
  37. "NIST Asks A.I. to Explain Itself" (2020)[URL]
  38. "Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People" (2022)[URL]
  39. "Don’t let industry write the rules for AI" (2019)[URL]
  40. "デジタル・プラットフォーマーの取引慣行等に関する実態 調査報告書" (2019)[URL]
  41. "GPT-3, 초거대 AI 개발경쟁에 불을 붙이다" (2021)[URL]
  42. "EU lawmakers pass landmark artificial intelligenceregulation"[URL]

관련 논문AI추천

주요국의 인공지능 법제와 한국의 입법 방향심우민한국사회과학연구회 · 동향과 전망2024 · 제122호인공지능 규제 입법에 관한 일고찰문광진법학연구소 · 외법논집2024 · 제48권 제3호인공지능 통제를 위한 규제의 동향과 시사점권헌영, 김법연, 박혜성한국정보법학회 · 정보법학2021 · 제25권 제2호인공지능(AI) 윤리원칙을 중심으로 한 규제 내용 분석·비교유지연, 정나영IT와 법연구소 · IT와 법연구2024 · 제28호유럽연합의 인공지능 관련 입법 동향을 통해 본 시사점이보연법학연구원 · 法學論文集2019 · 제43권 제2호신뢰의 관점에서 본 인공지능 규제이제희법학연구원 · 법학논총2025 · 제32권 제2호

이 간행물의 다른 논문 (10건)

방송통신위원회의 독립성과 중립성에 관한 연구허진성pp. 1-26일본의 소비자 보호방안에 대한 소고 – 과징금제도를 중심으로 –박용숙pp. 27-64유럽인권재판소의 공정한 균형 심사이재홍pp. 65-97유럽인권협약 제2조 생명권의 해석과 적용에 관한 연구 - 유럽인권재판소 결정례를 중심으로 -이형석pp. 99-141프랑스 이원정부제(혼합정부제)의 시사점 - 실질적 정권교체의 관점에서 -김선량pp. 143-178
원문 보기