유럽연합의 인공지능 백서에 관한 고찰
Analysis of the EU Whitepaper on AI
0
조회
0
다운로드
17
인용
0
참고문헌
키워드
초록
유럽연합(EU) 집행위원회는 2020. 2. 19. 「인공지능, 사물인터넷 및 로봇 공학이 안전 및 책임 문제에 미치는 영향에 관한 보고서」, 「인공지능 백서」 및 「유럽 데이터 전략」을 발표하고 EU의 디지털미래에 대한 포괄적인 논의를 시작하였다. 집행위원회는 디지털화 및 인공지능의 발전과 관련하여 EU 를 독립적인 글로벌 개척자로 자리매김하고자 한다. 인공지능의 규제와 이와 밀접한 관련이 있는 데이터 경제가 여기서 핵심적인 역할을 한다. 집행위원회의 핵심적 관심사는 인공지능이 EU에서 더 널리사용될 수 있도록 하는 연결고리로 사용하기 위하여 ‘우수 생태계’와 ‘신뢰 생태계’를 구축하겠다는것이다. 집행위원회는 인간 중심의 접근방식을 EU 법적 틀의 핵심 원칙으로 삼겠다고 한다. 또한 집행위원회는 과잉규제의 위험을 최소화하기 위하여 위험기반 접근방식을 제안하였다. 새로운 규율은고위험 인공지능에만 적용된다고 한다. 나아가 집행위원회는 고위험 인공지능 시스템과 관련하여 사전 적합성 평가와 같은 해결책을 제안하였다. 인공지능의 규율에 관한 법안을 빠르면 2021년 1/4분기에 제시하겠다고 한다. 그 법안이 입법화되면 EU에서 인공지능 시스템이 탑재된 제품이나 인공지능관련 서비스를 제공하고자 하는 우리 기업에도 직접 적용될 뿐만 아니라 우리 법제도의 설계에도 상당한 영향을 미칠 수 있으므로 그것의 기초를 이룰 백서의 내용을 분석 및 평가함으로써 인공지능 관련 EU 법적 틀의 얼개를 미리 가늠해보는 것은 유의미한 작업이라고 할 것이다. 백서에는 규제 및 책임 측면에서 현재보다 더 엄격한 요구사항이 등장하고 있으며, 이것이 기존의 법규를 개정하는 방식에의하거나 심지어 완전히 새로운 입법에 반영된다면 인공지능 분야에서 활동하는 사업체에 현저한 영향을 미칠 것이다. 집행위원회는 인공지능의 개발 및 적용에서 기본권적 가치와 그밖에 EU가 추구하는 가치에 큰 의미를 부여한다. 법적으로 확실한 규제 틀은 인공지능 기술을 혁신하고 보급하는 데 필수적이라고 할 것이다. 집행위원회는 이러한 법적 틀의 마련을 인공지능에 관한 글로벌 규범 설정자로역할을 할 수 있는 기회로 여기고 있다. 인공지능 개념은 기술적 진전을 반영할 수 있도록 유연해야하지만, 다른 한편으로 법적 안정성을 보장할 수 있을 만큼 충분히 정확해야 한다. 인공지능 개념이 법적 의미를 갖기 위해서는 법적 구성요건이 명시되고 구체화되어야 한다. 책임과 관련하여 EU 관련법령발안권을 가지는 집행위원회가 인공지능에 대하여 새로운 입법을 할 것인지 아니면 기존의 법규를 개정하는 데 그칠 것인지는 지켜보아야 한다. 백서는 비록 구체적인 법안이 아닌 ‘정책적 옵션’의제시로 그치고 있지만, 인공지능의 규제를 유럽 차원의 핵심 입법 프로젝트의 하나로 만들었고 이를기반으로 법안이 만들어질 것이라는 점에 의의가 있다.
Abstract
European Commission took a clear stance on AI; foster the uptake of AI technologies, underpinned by what it calls ‘an ecosystem of excellence’, while also ensuring their compliance with to European ethical norms, legal requirements and social values, ‘an ecosystem of trust’. While the Whitepaper on AI of the European Commission does not propose legislation yet, it announces some bold legislative measures, that will likely materialize by the end of 2020 or by the beginning of 2021. There has been a demand for a common approach to address such concerns, in order to give citizens and corporations enough trust in using (and investing in) AI systems, while also avoiding the market fragmentation that would limit the scale of development throughout Europe. In addition to some improvements to the liability regime, the EU Commission proposes to opt for a risk-based approach, to make proportional regulatory intervention in order to address mainly “high-risk” AI applications. According to the Commission, high-risk AI would need to comply with requirements regarding robustness, accuracy and reproducibility, data governance, accountability, transparency and human oversight. A truly eye-catching announcement is the idea of putting in place prior conformity assessments for high-risk AI that would need to go through rigorous testing and validation before entering the EU internal market. The Commission explicitly mentions that this obligation will apply to all actors irrespective of their location. The conformity assessment would apply to Facebook’s AI applications as well if they were to be deployed in Europe. The White Paper is the European Commission’s first concrete attempt at discussing AI policy beyond the high-level statements of previous Communications. While the ideas of the Commission need further elaboration and depth, the true the leap forward would be not only to focus on “Trustworthy AI made in Europe” as an alternative to AI made by the existing tech giants, but to promote trustworthy AI as a competitive advantage and incentivize and invest in the institutions, research and frameworks that can set this new AI playing field.
참고문헌 (26)
- Kearns, "The Ethical Algorithm: The Science of Socially Aware Algorithm Design" (2019), Oxford University
- Martini, "Blackbox Algorithmus: Grundfragen einer Regulierung Künstlicher Intelligenz" (2019), Springer
- 김진우, "자율시스템에 의한 의사표시의 귀속", 법학논총, 38(4), pp.97~127 (2018), 법학연구소[DOI]
- 김진우, "자율주행차의 설계상 결함에 관한 법적 쟁점", 서울대학교 법학, 59(4), pp.159~201 (2018), 법학연구소[DOI]
- 홍은주, "신경망 학습에서 프라이버시 이슈 및 대응방법 분석", 디지털융복합연구, 17(7), pp.285~292 (2019), 한국디지털정책학회[DOI]
- Dettling, "Erste Schritte im Recht der Künstlichen Intelligenz", MMR, pp.211~ (2019)
- Ebers, "Künstliche Intelligenz und Verbraucherschutz: Das KI-Weißbuch der Europäischen Kommission", VuR, pp.121~ (2020)
- Hacker, "Europäische und nationale Regulierung von Künstlicher Intelligenz", NJW, pp.2142~ (2020)
- Jüngling, "Die Digitalstrategie der EU-Kommission: Regulierung von Künstlicher Intelligenz", MMR, pp.440~ (2020)
- Martini, "Algorithmen als Herausforderung für die Rechtsordnung", JZ, pp.2017~ (2017)
- "EU-Kommission will Google" (2020)[URL]
- Borutta, "Strategiepapiere der EU-Kommission zur Künstlichen Intelligenz (KI)", MMR-Aktuell 2020, 427809~ (2020)
- European Commission, "A European strategy for data", COM(2020) 66 final, ~ (2020)
- European Commission, "Artificial Intelligence for Europe", COM(2018) 237 final, ~ (2018)
- "Digital Innovation Hubs (DIHs) in Europe"[URL]
- European Commission, "Report on the safety and liability implications of Artificial Intelligence, the Internet of Things and robotics", COM(2020) 64 final, ~ (2020)
- European Commission, "Shaping Europe’s digital future", COM(2020) 67 final, ~ (2020)
- European Commission, "WHITE PAPER On Artificial Intelligence – A European approach to excellence and trust", COM(2020) 65 final, ~ (2020)
- "European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics", 2015, 2015
- "Ethics Guidelines for Trustworthy AI" (2019)[URL]
- "Policy and investment recommendations for trustworthy Artificial Intelligence" (2019)[URL]
- "A definition of AI: Main capabilities and scientific disciplines" (2019)[URL]
- "Draft Ethics Guidelines for Trustworthy AI" (2018)[URL]
- "Stellungnahme der Bundesregierung der Bundesrepublik Deutschland zum Weißbuch zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen COM(2020) 65 fina" (2020)[URL]
- "Artificial intelligence, real benefits" (2018)[URL]
- "Europas „technologische Souveränität “"[URL]