본문 바로가기
KERD
논문KCI 등재

인공지능 운영자책임에 관한 유럽의회의 초안 : 평가 및 우리 법에의 시사점

Der Entwurf des EU-Parlaments zur KI-Betreiberhaftung: Bewertung und Auswirkungen auf das koreanische Recht

김진우
법학연구원 (Legal Research Institute of Korea University)|2021.04|法學論文集|제45권 제1호|pp. 5-56|DOI 10.22853/caujls.2021.45.1.5

0

조회

0

다운로드

11

인용

0

참고문헌

키워드

인공지능과실책임법인격제조물책임위험책임전자인자율시스템ProdukthaftungVerschuldenshaftungRechtspersönlichkeit책임 체제운영자책임리스크 기반 접근방식Künstliche Intelligenz (KI)Autonome SystemeHaftungsregimeBetreiberhaftungGefährdungahftungePersonRisikobasierter Regelungsansatz

초록

최근 인공지능과 결부된 시민과 사회에 대한 기회 및 리스크를 적절히 제어하고 형성할 수 있도록 인공지능 시스템에 대하여 규제를 하는 것이 바람직한지, 규제할 수 있는지 또는 규제해야만 하는지에 관한 논의가 진행되고 있다. 이와 관련하여 특히 인공지능 시스템의 오류로 인해 발생한 손해에 대하여 누가 책임을 져야 하는가의 문제에 관하여 각국에서 법정책적 논의가 활발하게 이루어졌다. 이 문제는 지난 수년간 유럽연합(EU) 입법기관의 관심사 중의 하나이기도 하였다. EU 집행위원회(이하 ‘집행위원회’라 한다)가 2020년 초 「인공지능 백서」 및 「안전 및 책임 측면에 관한 인공지능, 사물인터넷 및 로봇공학의 영향에 관한 보고서」를 공표한 이래 유럽의회는 가능한 입법행위에 대한 제안에 점점 더 관심을 기울이고 있다. 그 자체로 법령발안권이 없는 유럽의회는 2020. 10. 5. 인공지능의 오류로 인한 손해에 대한 운영자책임(Betreiberhaftung)에 관한 입법 제안이 담긴 결의안을 집행위원회에 제출하였다. 유럽의회의 이 결의안은 EU 차원의 법령발안권을 가진 집행위원회에 대하여 입법을 촉구하는 의미가 있다. 인공지능의 오류로 인한 책임은 제조물책임(Produkthaftung)과 직결된다. 그러나 인공지능 시스템 사용자와 보유자의 의무보험, 기금 해결책 및 기타 혁신적인 접근방식 등도 포함되어 있기 때문에 논의의 범위는 그것을 훨씬 넘어선다. 유럽의회의 제안은 기존 EU의 규율, 특히 제조물책임지침을 배제하거나 대체하는 것이 아니라 이것이 가지는 흠결을 메우기 위한 것이다. 책임법은 인공지능의 개발 및 사용과 관련하여 간접적인 리스크 관리 도구로서 중요한 역할을 한다. 인공지능의 경제적 잠재력을 인지한 유럽의회는 인공지능 시스템을 신뢰할 수 있는 방식으로 형성하여 EU에 관철하는 것을 목표로 하고 있다. 이러한 신뢰는 무엇보다도 운영자책임에 의해 달성할 수 있다고 한다. 결의안의 ‘운영자’는 자동차 운행자와 유사한 개념이다. EU에서는 지금까지 이른바 리스크 기반 접근방식(risk-based approach)이 인공지능 규제에 관한 논의를 지배하였으며, 이것은 이제 책임법의 맥락에서 유럽의회에 의해 채택되었다. 유럽의회는 운영자책임에 대하여 리스크 분류를 기반으로 하는 이원적 책임제도를 제안하였다. 리스크가 큰 인공지능 시스템에는 의무보험과 결합된 위험책임이, 기타 인공지능 시스템에는 유책사유가 추정되는 과실책임이 제안되었다. 이는 가령 현행 독일법에서 기술시스템의 운영자는 원칙적으로 유책사유가 있는 경우에만 책임을 진다는 점과 다른 점이다. 2017년의 결의안과 달리 유럽의회는 현 시점에 인공지능 시스템에 법인격을 부여하는 것은 무용하다고 본다. 본 연구는 우선 결의안의 배경과 인적⋅물적 적용범위를 다루었다. 이어서 결의안의 위험책임과 과실책임의 구성요건을 상세히 살펴보았다. 다음으로 결의안을 평가하고 전망하였다.

Abstract

In den letzten Jahren ist eine lebhafte rechtspolitische Diskussion um die Frage entbrannt, wer für Schäden haften soll, die durch KI-Systeme verursacht werden. Der Rechtsausschuss des Europäischen Parlaments hat am 5.10.2020 seinen legislativen Initiativbericht an die Europäische Kommission zur zivilrechtlichen Haftung beim Einsatz KI vorgestellt. Das EU-Parlament strebt an, der EU-Kommission mehrere Vorschläge für Rechtssetzungsinitiativen zu unterbreiten. Im Anhang der Entschließung befindet sich ein konkreter Gesetzentwurf, dessen Eckpfeiler die Einführung einer Gefährdungshaftung, erleichterten Verschuldenshaftung, Versicherungspflicht, Ersatzpflicht für erhebliche immaterielle Schäden und risikobasierten Klassifizierung im Zusammenhang mit KI darstellen. Das Parlament ebnet den Weg für ein unionales Haftungsregime beim Einsatz von KI-Systemen. Ob das Ziel erreicht werden kann, einen klaren Rechtsrahmen zu schaffen, um Unternehmen Rechtssicherheit zu bieten und das Vertrauen der Bevölkerung in die Technologie zu stärken, wird sich insbesondere daran zeigen, inwieweit die Risikoklassen samt resultierender Haftungsart der Technologieentwicklung gerecht werden können. Angesichts der Vielgestaltigkeit KI-Technoligien, stark variierenden Einsatzarten und -orten, unterschiedlich ausgeprägter Gefährlichkeit und Bedeutung einerseits für die Gesellschaft und andererseits für das Individuum kann eine schematisierende strikte Haftung nicht überzeugen. Eine allgemeine, allein an die Autonomie des Systems anknüpfende Gefährdungshaftung, die tatsächliche Gefährdungspotentiale ignorierte, hat als unangemessen auszuscheiden. Vielmehr ist eine nachhaltige, gerade aus den autonomen Systemen inhärenten technologispezifischen Risiken resultierende Gefahr zu verlangen und im Einzelfall sorgfältig abzuwägen, ob eine verschuldensunabhängige Eistandspflicht eine sachgerechte Bewältigung der haftungsrechtlichen Problematik zu leisten vermag. Vor dem Hintergrund, dass unsere Unternehmen im Wettbewerb mit weltweite Konkurrenten bestehen müssen, darf eine KI-Regulierung aber keine übermäßigen Innovationshindernisse schaffen.

참고문헌 (65)

  1. 송덕수, "채권법각론" (2019), 박영사
  2. 이은영, "채권각론" (2007), 박영사
  3. "Bericht der Arbeitsgruppe „Digitaler Neustart“ der Justiz NRW vom 15.04.2019, „Robotic Law, Blockchain und Leistungsschutzrechte an Daten“" (2019)[URL]
  4. "AI and Civil Liability ― Study requested by the European Parliament Committee on Legal Affairs" (2020)[URL]
  5. Brüggemeier, "Prinzipien des Haftungsrecht" (1999)
  6. AEUV Das Verfassungsrecht der Europäischen Union mit Europäischer Grundrechtecharta, "EUV", pp.2016, Calliess
  7. Deutsch, "Fahrlässigkeit und erforderliche Sorgfalt" (1995)
  8. Deutsch, "Haftungsrecht, Band 1: Allgemeine Lehren" (1976)
  9. Ebers, "Rechtshandbuch Künstliche Intelligenz und Robotik" (2020)
  10. 2, "Schuldrecht Ⅱ", pp.2000, Esser
  11. Fischer, "DGRI Jahrbuch" (2018)
  12. Förster, "BeckOK-BGB, Stand: 1.5" (2020)
  13. Frenz, "Handbuch Industrie 4.0: Recht, Technik, Gesellschaft", pp.257~ (2020)
  14. Grabitz, "Das Recht der Europäischen Union" (2020), EL
  15. Hager, "Staudinger, BGB" (2017)
  16. Hilgendorf, "Robotik im Kontext von Recht und Moralm" (2014)
  17. Kaulartz, "Rechtshandbuch Artificial Intelligence und Machine Learning" (2020)
  18. 2, "Schuldrecht Ⅱ", pp.1994, Larenz
  19. Lohsse, "Liability for Artificial Intelligence and the Internet of Things" (2019)
  20. "Münchener Kommentar zum BGB" (2020)
  21. Palandt, "BGB" (2020)
  22. "REPORT with recommendations to the Commission on a civil liability regime for artificial intelligence, A9-0178", 2020 = BERICHT mit Empfehlungen an die Kommission für eine Regelung der zivilrechtlichen Haftung beim Einsatz künstlicher Intelligenz,A9-0178 (2020), ~
  23. Russel, "Artificial Intelligence: A Modern Approach" (2010)
  24. Schäfer, "Lehrbuch der ökonomischen Analyse des Zivilrechts" (2012)
  25. Siefkes, "Sozialgeschichte der Informatik, Zur Geschichte der künstlichen Intelligenz in Deutschland" (1997)
  26. Zech, "Entscheidungen digitaler autonomer Systeme: Empfehlen sich Regelungen zu Veranwortung und Haftung", Gutachten A zum 73. Deutschen Juristentag (2020)
  27. 김세준, "지능형 에이전트의 의사표시에 관한 몇 가지 쟁점 - 사물인터넷 환경에서의 보조시스템(Assistenzsystem)을 중심으로 -", 법과정책연구, 20(3), pp.33~70 (2020), 한국법정책학회[DOI]
  28. 김진우, "유럽연합의 인공지능 백서에 관한 고찰", 외법논집, 44(4), pp.129~161 (2020), 법학연구소[DOI]
  29. 김진우, "인공지능에 대한 전자인 제도 도입의 필요성과 실현방안에 관한 고찰", 저스티스, 171, pp.5~48 (2019), 한국법학원[DOI]
  30. 김진우, "지능형 로봇과 민사책임", 저스티스, 164, pp.46~80 (2018), 한국법학원[DOI]
  31. 김진우, "지능형 로봇에 대한 사법적 규율— 유럽연합의 입법 권고를 계기로 하여 —", 법조, 66(3), pp.5~59 (2017), 법조협회[DOI]
  32. 김진우, "자율주행과 민사책임에 관한 독일에서의 최근 논의 동향", 홍익법학, 21(4), pp.27~59 (2020), 법학연구소[DOI]
  33. 김훈주, "AI(Artificial Intelligence)에 대한 법인격 부여의 타당성 검토", 법학연구, 31(1), pp.179~208 (2020), 법학연구소[DOI]
  34. 박수곤, "자율적 지능 로봇의 법적 지위에 대한 소고", 법학논총, 31(2), pp.46~86 (2018), 법학연구소[DOI]
  35. 서종희, "4차 산업혁명 시대 위험책임의 역할과 한계 -인공지능 로봇에 의해 발생한 손해의 책임귀속을 고려하여", 사법, 1(43), pp.69~107 (2018), 사법발전재단[DOI]
  36. 오병철, "인공지능 로봇에 의한 손해의 불법행위책임", 법학연구, 27(4), pp.157~231 (2017), 법학연구원[DOI]
  37. 오병철, "전자인격 도입을 전제로 한 인공지능 로봇의 권리능력의 세부적 제안", 법조, 69(3), pp.51~82 (2020), 법조협회[DOI]
  38. 이성진, "인공지능과 법인격 인정", 민사법의 이론과 실무, 23(3), pp.63~93 (2020), 민사법의 이론과 실무학회[DOI]
  39. 이충훈, "인공지능(Artificial Intelligence)을 이용한 의사표시의 주체", 법학연구, 30(1), pp.285~317 (2020), 법학연구원[DOI]
  40. 장재옥, "인공지능의 법적 지위에 관한 논의 -전자인과 관련하여-", 法學論文集, 43(1), pp.103~141 (2019), 법학연구원[DOI]
  41. Brand, "Haftung und Versicherung beim Einsatz von Robotik in Medizin und Pflege", MedR, pp.943~ (2019)
  42. Ebers, "Künstliche Intelligenz und Verbraucherschutz: Das KI-Weißbuch der Europäischen Kommission", VuR, pp.121~ (2020)
  43. Guggenberger, "Einsatz künstlicher Intelligenz in der Verwaltung", NVwZ, pp.844~ (2019)
  44. Herberger, "„Künstliche Intelligenz“ und Recht: Ein Orientierungsversuch", NJW, pp.2825~ (2018)
  45. Kötz, "Haftung für besondere Gefahr", AcP, 170, pp.1~ (1970)
  46. Linke, "Die elektronische Person", MMR, pp.200~ (2021)
  47. Mühlböck, "Haftung für Schäden durch KI in der Medizin", AcP, 221, pp.179~ (2021)
  48. Schirmer, Von Mäusen, "Menschen und Maschinen ― Autonome Systeme in der Architektur der Rechtsfähigkeit", JZ, pp.711~ (2019)
  49. Schirmer, "Rechtsfähige Roboter?", JZ, pp.660~ (2016)
  50. Spiecker gen. Döhmann, "Zur Zukunft systemischer Digitalisierung ― Erste Gedanken zur Haftungs- und Verantwortungszuschreibung bei informationstechni- schen Systemen", CR, pp.698~ (2016)
  51. Spindler, Roboter, "Automation, künstliche Intelligenz, selbststeuernde Kfz- Braucht das Recht neue Haftungskategorien?", CR, pp.766~ (2015)
  52. Teubner, "Digitale Rechtssubjekte? Zum privatrechtlichen Status autonomer Softwareagenten", AcP, 218, pp.155~ (2018)
  53. Unger, "Grundfragen eines neuen europäischen Rechtsrahmens für KI", ZRP, pp.234~ (2020)
  54. Wagner, "Robot, Inc.: Personhood for Autonomous Systems?", Fordham L. Rev., 88, pp.591~ (2019)
  56. "A definition of AI: Main capabilities and scientific disciplines"[URL]
  57. Report from the Commission to the European Parliament, the Council and the European Economic and Social Committee, Report on the safety and liability implications of Artificial Intelligence, the Internet of Things and robotics, COM, "2020", 64 final = Europäische Kommission, Bericht über die Auswirkungen künstlicher Intelligenz, des Internets der Dinge und der Robotik in Hinblick auf Sicherheit und Haftung, COM(2020) 64 final, pp.2020, ~
  58. "Gutachten der Datenethikkommission" (2019)[URL]
  59. Report from the Commission to the European Parliament, the Council and the European Economic and Social Committee, Report on the safety and liability implications of Artificial Intelligence, the Internet of Things and robotics, COM, "2020", 64 final = Europäische Kommission, Bericht über die Auswirkungen künstlicher Intelligenz, des Internets der Dinge und der Robotik in Hinblick auf Sicherheit und Haftung, COM(2020) 64 final, pp.2020, ~
  60. "Gutachten der Datenethikkommission" (2019)[URL]
  61. WHITE PAPER On Artificial Intelligence ― A European approach to excellence and trust, COM(2020) 65 final. = Weißbuch zur künstlichen Intelligenz― ein europäisches Konzept für Exzellenz und Vertrauen vom 19.02.2020,COM(2020) 65 final, "European Commission", ~ (2020)
  62. "Liability for artificial intelligence and other emerging digital technologies, Report from the Expert Group on Liability and New Technologies ― New Technologies Formation"[URL]
  63. Mitteilung der Kommission, "Künstliche Intelligenz für Europa, COM(2018) 237 final", ~ (2018)
  64. "KI und die geplante EU-Gefährdungshaftung"[URL]
  65. "Stellungnahme der Bundesregierung der Bundesrepublik Deutschland zum Weißbuch zur Künstlichen Intelligenz ― ein europäisches Konzept für Exzellenz und Vertrauen COM (2020) 65 final" (2020)[URL]

관련 논문AI추천

인공지능이 결합된 소비제품과 사업자의 책임 - 인공지능책임법안을 중심으로 -박신욱한국소비자법학회 · 소비자법연구2024 · 제10권 제1호EU의 지능정보작용 관련 입법 및 정책에 관한 소고김형섭, 최정윤한국법정책학회 · 법과정책연구2023 · 제23권 제4호유럽의 인공지능 법제 동향박신욱한국경영법률학회 · 경영법률2023 · 제33권 제4호유럽연합의 인공지능 백서에 관한 고찰김진우법학연구소 · 외법논집2020 · 제44권 제4호유럽연합 ‘인공지능법안’의 주요 내용과 시사점홍석한유럽헌법학회 · 유럽헌법연구2022 · 제38호유럽연합의 인공지능 관련 입법 동향을 통해 본 시사점이보연법학연구원 · 法學論文集2019 · 제43권 제2호

이 간행물의 다른 논문 (9건)

민사소송상 인공지능 법관에 관한 소고김도훈pp. 57-88인공지능 윤리의 두 가지 가치박도현pp. 89-118경찰법상 위험 개념의 구분과 기능 -경찰관직무집행법 제8조의2 신설을 계기로 -김형훈pp. 119-154클라우드컴퓨팅 서비스 침해사고에 대한 입법적 개선방안이정훈pp. 155-185공무집행 중 발생한 주한미군범죄와 「한･미 SOFA」에 따른 경합적 형사재판권에 관한 고찰김성진pp. 187-213
원문 보기