EU AI Act의 입법배경과 도입철학에 대한 검토
A Review of the Legislative Background and Philosophical Foundations of the EU AI Act
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
EU AI 법은 세계 최초의 포괄적 AI 규제로, AI 시스템이 시민의 권리를 침해하지 않도록 하기 위해 엄격한 규제를 도입한 것이 핵심이다. EU AI 법은 AI 기술 발전에 따라 발생할 수 있는 윤리적, 사회적, 법적 문제를 해결하기 위해 도입되었다. 특히, AI 시스템이 인간의 존엄성을 보장하고 투명성, 안전성, 비차별성을 유지하도록 설계되었다. 법 제정의 중심에는 위험 기반 접근(risk-based approach)이 있으며, AI 시스템을 위험 수준에 따라 분류하고 이에 맞는 규제를 적용하고 있다. (i) 우선, 금지되는 AI 시스템으로서, 사회적 점수 매기기, 실시간 원격 생체 인식, 조작적 기술 등은 시민의 권리를 위협하거나 윤리적 문제를 야기할 수 있어 금지되고 있다. (ii) 고위험 AI 시스템으로서 의료, 교통, 법 집행 등 주요 분야에서 사용되는 AI는 높은 안전성과 투명성을 요구하며, 엄격한 요건을 충족해야만 사용이 허가된다. (iii) 범용 목적형 AI 모델 즉, ChatGPT와 같은 것에 대해서는 독자적인 규제가 추가되어, 기술문서 작성, 데이터 공개 등 의무가 부과되어 있다. EU AI 법의 도입 철학으로서는 다음을 들 수 있다. (i) 인간 중심 접근이다. AI 시스템이 인간의 의사결정을 대체하거나 침해하지 않도록 하고, AI를 인간의 복지를 증진하는 도구로 활용하고자 하고 있다. (ii) 투명성과 책임성의 강화이다. AI 시스템의 작동 원리를 설명 가능하게 만들어 사용자가 신뢰할 수 있도록 보장하고 있다. (iii) 글로벌 경쟁력 강화이다. 유럽 기업과 산업의 경쟁력을 높이고, AI 기술이 글로벌 무대에서 선도적 역할을 할 수 있도록 지원하고자 한다. 이 법은 AI 기술의 발전과 혁신을 촉진하면서도 안전성과 신뢰성을 보장하고, EU의 가치와 규범을 반영한 AI 시스템 보급을 목표로 하고 있다. 2026년부터 본격적으로 시행될 예정이며, 규제 위반 시 높은 수준의 벌금이 부과될 예정이다. EU AI 법은 인간의 기본권을 보호하면서도 AI 기술 발전을 촉진하기 위한 혁신적이고 포괄적인 규제 체계로, 글로벌 AI 규제의 표준이 될 가능성을 지니고 있다.
Abstract
The EU AI Act is the world's first comprehensive AI regulation, designed to implement strict rules to ensure that AI systems do not infringe upon citizens' rights. It was introduced to address the ethical, social, and legal issues that arise with the advancement of AI technology. Specifically, the Act is designed to safeguard human dignity and ensure transparency, safety, and non-discrimination in AI systems. At the core of the legislation is a risk-based approach, which classifies AI systems according to their risk levels and applies corresponding regulations. (i) Prohibited AI systems include those that pose threats to citizens' rights or ethical standards, such as social scoring, real-time remote biometric identification, and manipulative techniques. These systems are strictly banned. (ii) High-risk AI systems, used in critical sectors such as healthcare, transportation, and law enforcement, are subject to rigorous requirements for safety and transparency, and their use is permitted only if these stringent conditions are met. (iii) General-purpose AI models, such as ChatGPT, are subject to additional independent regulations, which impose obligations like preparing technical documentation and disclosing data used in training. The philosophy behind the EU AI Act can be summarized as follows: (i) Human-centric approach: It ensures that AI systems do not replace or undermine human decision-making and instead serve as tools to enhance human welfare. (ii) Strengthening transparency and accountability: The Act requires AI systems to be explainable, enabling users to trust and hold them accountable. (iii) Enhancing global competitiveness: The Act aims to bolster the competitiveness of European businesses and industries while positioning AI technology developed in Europe as a leader on the global stage. The EU AI Act seeks to promote the advancement and innovation of AI technology while ensuring safety and trustworthiness. It also aims to distribute AI systems that reflect EU values and norms. The Act is set to be fully enforced starting in 2026, with significant fines imposed for regulatory violations. As an innovative and comprehensive regulatory framework, the EU AI Act is poised to become the global standard for AI governance, protecting fundamental human rights while fostering technological progress.
참고문헌 (47)
- ‘인공지능(AI) 윤리 가이드라인’의 중요성과 국가별 대응 현황 : 국내, "연구윤리정보센터", 연구윤리정보센터, ~ (2020)
- EU 인공지능(AI) 규제 현황과 시사점, "강진원", KISTEP, ~, pp.KISTEP 브리프 No. 119 (2024)
- 관계부처 합동, "사람이 중심이 되는 인공지능을 위한신뢰할 수 있는 인공지능 실현전략(안)", ~ (2021)
- 김송옥, "AI 법제의 최신 동향과 과제 - 유럽연합(EU) 법제와의 비교를 중심으로 -", 공법학연구, 22(4) (2021), 한국비교공법학회
- 김진우, "유럽연합 인공지능법안에 따른 고위험 인공지능 시스템 공급자 등의 의무", 과학기술과 법, 12(2) (2021), 충북대학교 법학연구소
- 김진우, "유럽연합의 인공지능 백서에 관한 고찰", 외법논집, 44(4) (2020), 한국외국어대학교 법학연구소
- EU AI법(AI act)의 주요 내용과 미디어 업계 영향, 시사점, "박영흠", 한국언론진흥재단, ~, pp.MEDIA 정책 리포트 2024년 제2호 (2024)
- 박혜성, "인공지능 규제에 대한 연구 - 유럽연합의 입법안을 중심으로 -", 공법연구, 49(3) (2021), 한국공법학회
- 손영화, "AI 공정성에 관한 연구 - 차별 없는 AI 사회의 실현 -", 한양법학, 34(3) (2023), 한양법학회
- 손영화, "EU AI 규칙안상의 허용할 수 없는 위험의 AI 시스템에 대한 고찰", 법학연구, 25(3) (2022), 인하대학교 법학연구소
- 손영화, "EU AI 규칙안에 대한 일고찰", IP & Data 법, 1(2) (2021), 인하대학교 법학연구소
- 손영화, "생성형 AI와 기업경영", 제56회 쥬리스포럼 (2023), 충북대학교 법학연구소
- 초점 EU 인공지능 규제안의 주요 내용과 시사점, "이경선", 정보통신정책연구원, ~, pp.KISDI Perspectives No. 1 (2021)
- 이보연, "유럽연합의 인공지능 관련 입법 동향을 통해 본 시사점", 법학논문집, 43(2) (2019), 중앙대학교 법학연구원
- 이재구, "EU, AI법 3원칙 마련···“고위험 AI 사고시 운영자 책임” 등", AI 타임스, ~ (2020)
- Anas Baig, "Article 5 of the EU’s AI Act: Prohibited Artificial Intelligence Practices", EU AI Act Resource Center, ~ (2024)
- Council of the EU, "Press release Artificial intelligence (AI) act: Council gives final green light to the first worldwide rules on AI", ~ (2024)
- Daniel Mikkelsen, "The EU data-protection regulation—compliance burden or foundation for digitization?", Mckinsey & Company, ~ (2017)
- DW Global Media Forum, "EU signs off on artificial intelligence law", DW, ~ (2024)
- Ennuviz, "The Power of Combining Generative AI and Automation: Best Practices", ~ (2023)
- European Commission, "Coordinated Plan on Artificial Intelligence 2021 Review", ~ (2021)
- European Commission, "Artificial Intelligence for Europe", ~ (2018)
- European Commission, "Communication on boosting startups and innovation in trustworthy artificial intelligence", ~ (2024)
- European Commission, "Coordinated Plan on Artificial Intelligence 2021 Review", ~ (2021)
- European Commission, "Ethics guidelines for trustworthy AI", ~ (2019)
- European Commission, "Member States and Commission to work together to boost artificial intelligence “made in Europe”", ~ (2018)
- European Commission, "White Paper on Artificial Intelligence - A European approach to excellence and trust", ~ (2020)
- European Parliament, "EU AI Act: first regulation on artificial intelligence, European Parliament Topics", ~ (2023)
- European Parliament, "Press Releases Artificial Intelligence Act: MEPs adopt landmark law", ~ (2024)
- Eve Gaumond, "Artificial Intelligence Act: What Is the European Approach for AI?", ~ (2021)
- Future of Life Institute, "High-level summary of the AI Act", ~ (2024)
- Go Li.EU, "Legal implications of the Artificial Intelligence Act for cities, regions, and communities", ~ (2024)
- Hadrien Pouget, "AI and Product Safety Standards Under the EU AI Act", CARNEGIE, ~ (2024)
- High-Level Expert Group on Artificial Intelligence, "Ethics Guidelines for Trustworthy Ai", European Commission, ~ (2018)
- Joy Buolamwini, "Proceedings of the 1st Conference on Fairness, Accountability and Transparency", PMLR, 81, pp.77~91 (2018)
- Lindsey Andersen, "HUMAN RIGHTS IN THE AGE OF ARTIFICIAL INTELLIGENCE", Access Now, ~ (2018)
- Mayur Patel, "The Ethics of AI Addressing Bias, Privacy, and Accountability in Machine Learning", ~ (2024)
- Pinkus Partners, "Automating Workflows and Optimizing Business Processes with Generative AI", ~ (2023)
- Stephan Leadbeater, "Coca-Cola's use of AI to stay at the top of the drinks market", ~ (2021)
- 吉沼啓介, "EU、AIを包括的に規制する法案で政治合意、生成型AIも規制対象に", 日本貿易振興機構(Jetro) ビジネス短信, ~ (2023)
- 三田雄登, "生成AIによる権利侵害に対する諸外国における法制度上の対応（著作権侵害への対応）", 株式会社NTTデータ経営研究所, ~ (2024)
- 成原慧, "AIによる差別と公平性 - 金融分野を題材に", 季刊 個人金融, (冬) (2023), 一般財団法人ゆうちょ財団 貯蓄経済研究部
- 小泉雄介, "EUのAI規則案の欧州議会修正案と顔識別システム等に対する規制動向", IISE, ~ (2023)
- 村岡 有, "全方位的な戦略でAI普及を推進（EU） AI倫理ガイドラインなど社会配慮型の取り組みに注目", ~ (2019)
- 坂本将磨, "AI規制法とは？日本・海外の事例を踏まえ、その内容と影響を徹底解説", AI総合研究所, ~ (2024)
- 平岩久人, "概要と適用タイムライン・企業に求められる対応「欧州（EU）AI規制法」の解説", ~ (2024)
- Emma Woollacott, "EUの「AI規制案」に対するプライバシー保護運動家の反応", Japan Forbes, ~ (2023)