인공지능 시스템의 책임능력: 전자인 제도의 도입 필요성에 관한 논의를 중심으로
Responsibility of AI Systems de Lege Ferenda with Regard to the Need to Introduce the E-person
0
조회
0
다운로드
14
인용
0
참고문헌
키워드
초록
현행법상 인공지능 시스템은 권리주체가 아니기 때문에 시스템의 표시나 행위는 그 배후에 있는 권리주체에게 귀속되어야 하겠지만 그러한 결론에 이르기 위한 설득력 있는 법리는 발견되지 않는다. 기존의 법률행위론에 따르면 인공지능 시스템의 의사표시를 사용자의 의사표시라고 하기 어렵다. 국내 문헌들은 일반적으로 효과의사가 있어야 의사표시가 성립한다고 하는데, 인공지능 시스템에 의한 표시에서는 사용자가 시스템의 표시내용을 사전에 알 수 없는 경우가 대부분이고 그때에는 사용자의 효과의사를 인정하기 쉽지 않기 때문이다. 결국 기존의 법리로는 인공지능 시스템의 의사표시를 그 사용자에게 귀속시키거나 사용자의 의사표시라고 하기는 매우 곤란하다. 인공지능 시스템의 표시를 사용자에게 귀속시키기 위한 기존의 다양한 접근방식의 어느 것도 인공지능 시스템의 자율성 위험(Autonomierisiko)을 적절히 반영하지 않는다. 프로그램 개발자조차 예측⋅제어할 수 없는 시스템의 의사결정에도 불구하고 시스템을 사용자의 단순한 도구로 보아 그것의 표시를 사용자의 표시로 이해하는 것은 —입법자의 결단에 의해 뒷받침되지 아니한— 부당한 의제(Fiktion)라고 할 수 있다. 인공지능 시스템을 사용하려는 일반 의사를 일정 법률행위를 체결하려는 의사와 동일시한다면 법률행위론의 정립된 관념은 과도하게 확장될 것이다. 이러한 접근방식은 사용자로 하여금 단순히 인공지능 시스템의 사용에 대해 책임을 지도록 하는 것이자 위험책임을 인정하는 것과 다름없으며, 그러한 위험책임은 ‘뒷문’을 통해 인공지능시스템의 사용을 금지하는 것과 다르지 않다. 인공지능 시스템의 표시에 대해서는 대리법리를 유추 적용함이 가장 타당해 보인다. 인공지능 시스템의 의사표시는 일반적으로 그 배후에 있는 사용자를 위한 것이기 때문이다. 이러한 배경에서 이 상황은 기본적으로 민법 제114조 이하에 따른 대리와 유사하다. 이러한 유사한 상황에도 불구하고 인공지능 시스템에 대리 규정을 유추 적용하는 것은 인공지능 시스템의 법인격 결여로 인하여 배제된다. 이러한 문제점을 해결하기 위해서는 인공지능 시스템에 법인격을 부여하는 방안 또는 대리인의 권리능력을 요구하지 않는 방향으로의 대리제도의 근본적인 변혁이 필요하다. 피해자는 인공지능 시스템으로 인한 피해 발생 시 인과관계나 결함과 관련하여 증명곤란의 문제에 직면하게 된다. 제조물책임에 관해서는 제조물책임법에 따른 증명경감이 이루어지지만, 인공지능 시스템의 사용자에 대해서는 원칙적으로 피해자가 주장 및 증명과 관련하여 전적인 책임을 진다. 제조자가 잠재적으로 사용자와 함께 책임을 져야 하지만, 인공지능 시스템은 성상이 변경되기 때문에 피해자가 제조물책임의 핵심 요건인 제조물의 ‘결함’을 증명하기 어려울 수 있다. 또한 일반 불법행위법(민법 제750조 이하)에 따른 제조자의 책임에서 제조자의 주의의무를 어떻게 구성할 것인지도 불분명하다. 민법 제750조 및 거기에 확립된 유책주의의 원칙에 따라 독립적인 의사결정을 내리는 자율적인 인공지능 시스템의 사용자가 예견할 수 없는 잘못된 행위를 그의 주의의무의 위반으로 평가할 수는 없기 때문이다. 성상이 변화하는 인공지능 시스템의 행위를 예견할 수 없는 경우에 사용자에게 책임을 부과하는 것도 불합리하다. 전자인 제도의 장점은 책임과 관련하여 증명 곤란의 문제를 피하고 손해의 명확한 배분을 할 수 있다는 점에 있다. 전자인 제도가 도입되지 않으면 인공지능 시스템의 사용자가 많은 경우에 책임을 져야 할 것이다. 이처럼 인공지능 시스템의 사용자가 주로 책임을 지게 되면 잠재적 사용자들은 인공지능 시스템의 사용을 꺼릴 것이고, 이는 궁극적으로 인공지능 기술의 발전 및 보급을 저해하게 된다. 전자인은 계약법이나 불법행위법에 따른 책임의 주체가 되므로, 전자인의 사용자나 제조자는 부담을 덜게 된다. 피해자는 책임주체로서의 전자인을 채무자로 상대하게 된다. 인공지능 시스템에 대한 법인격 인정을 통해 사용자는 인공지능 시스템에 대한 무한책임에서 벗어날 수 있다. 결과적으로 사용자에게 유리한 책임제한은 거시경제적으로 바람직한 위험을 사회가 감수하도록 하기 위한 것이다. 인공지능 시스템의 미래 응용 분야에서는 개별적 사용자에 대한 과도한 요구를 방지하는 법적 틀이 보장되어야 한다. 불안정성과 법적 공백 없이 사회생활과 진보 사이의 균형을 가능케 하는 법적 틀을 만드는 것은 입법자의 임무이다. 사람의 지능에 근접하거나 그것을 능가하여 인간의 행위를 많은 면에서 대신하는 강 인공지능(strong AI)이 개발단계에 이르지 아니한 현 시점에 전자인 제도를 도입할 필요성은 크지 않을 수 있다. 지금의 인공지능 시스템은 사용자와 연결될 수 없을 정도의 자율성을 가지는 않기 때문이다. 인공지능 시스템의 행위를 여전히 그 배후에 있는 사람에게 귀속시킬 수 있다면 혁신에 따르는 비용도 기존의 권리주체가 짊어져야 한다. 그러나 강 인공지능이 널리 개발되고 상용화될 경우를 대비하여 전자인 제도는 이론적 차원에서 계속 논의되어야 할 것이다.
Abstract
Digitization poses challenges to law and order. Across all areas of law, fundamental questions sometimes require answers. AI systems (autonomous systems) that make self-learning decisions are increasingly gaining particular attention. Neither for the creator nor for the user of such a system is its future action foreseeable. Questions of liability arise. This article focuses on the attribution of declarations of intent. As AI systems become more widespread, they will increasingly make legally relevant decisions. The following investigation shows that AI systems de lege lata do not make any declarations of intent of their own. They neither become contractual partners themselves, nor do they act as a representative of the user. More attention than the contractual party status of AI systems has recently received their legal classification as a representative. The basic idea is that a human representative is to a certain extent replaced by a robot representative. However, it seems doubtful whether the conditions for a conclusion by analogy exist. Regardless of the fact that, for the reasons set out below, there is no unplanned loophole in the regulation, the interests of "representation" by an autonomous system should differ significantly from those in the case of representation by a person. The AI system as a falsus procurator does not have any liability as described - even if one were to see it as a suitable opponent of the claim from § 135 KBGB. As a result, claims against an autonomous system without power of attorney according to § 135 KBGB are to be excluded by law. In view of these dogmatic hurdles, which can hardly be overcome, calls are being made for a change in the law to recognize certain autonomous systems as legal subjects. The proposals are manifold. They range from a narrowly defined partial legal personhood to a fully legal e-person. Different authors develop and justify similar demands for the creation of an e-person; others resolutely oppose it. Still others want to achieve partial legal personhood for AI systems, in some cases supplemented by a register. Regulations are primarily to be made in a targeted manner where the applicable law does not provide solutions that are in line with the interests of the individual. Without legislative intervention, many areas, especially questions of AI, cannot be handled satisfactorily.
참고문헌 (123)
- 곽윤직, "민법총칙" (2013), 박영사
- 김대정, "민법총칙" (2012), fides
- 김증한, "민법총칙" (1995), 박영사
- 김상용, "민법총칙" (2004), 법문사
- 송덕수, "민법총칙" (2021), 박영사
- 송덕수, "채권법총론" (2020), 박영사
- 양창수, "민법주해 제9권" (1995)
- 이영준, "민법총칙" (2007), 박영사
- 이은영, "민법총칙" (2009), 박영사
- 김세준, "지능형 에이전트의 의사표시에 관한 몇 가지 쟁점 - 사물인터넷 환경에서의 보조시스템(Assistenzsystem)을 중심으로 -", 법과정책연구, 20(3), pp.33~70 (2020), 한국법정책학회[DOI]
- 김진우, "유럽연합의 인공지능 백서에 관한 고찰", 외법논집, 44(4), pp.129~161 (2020), 법학연구소[DOI]
- 김진우, "인공지능 운영자책임에 관한 유럽의회의 초안 : 평가 및 우리 법에의 시사점", 法學論文集, 45(1), pp.5~56 (2021), 법학연구원[DOI]
- 김진우, "인공지능에 대한 전자인 제도 도입의 필요성과 실현방안에 관한 고찰", 저스티스, 171, pp.5~48 (2019), 한국법학원[DOI]
- 김진우, "자율시스템에 의한 의사표시의 귀속", 법학논총, 38(4), pp.97~127 (2018), 법학연구소[DOI]
- 김진우, "자율주행에서의 제조물책임에 관한 몇 가지 법률문제", 소비자문제연구, 49(2), pp.233~267 (2018), 한국소비자원[DOI]
- 김진우, "지능형 로봇과 민사책임", 저스티스, 164, pp.46~80 (2018), 한국법학원[DOI]
- 김진우, "지능형 로봇에 대한 사법적 규율— 유럽연합의 입법 권고를 계기로 하여 —", 법조, 66(3), pp.5~59 (2017), 법조협회[DOI]
- 김훈주, "AI(Artificial Intelligence)에 대한 법인격 부여의 타당성 검토", 법학연구, 31(1), pp.179~208 (2020), 법학연구소[DOI]
- 박수곤, "자율적 지능 로봇의 법적 지위에 대한 소고", 법학논총, 31(2), pp.46~86 (2018), 법학연구소[DOI]
- 송호영, "인공지능 로봇은 법인격을 가질 수 있는가?", 저스티스, 184, pp.83~113 (2021), 한국법학원[DOI]
- 오병철, "인공지능 로봇에 의한 손해의 불법행위책임", 법학연구, 27(4), pp.157~231 (2017), 법학연구원[DOI]
- 오병철, "전자인격 도입을 전제로 한 인공지능 로봇의 권리능력의 세부적 제안", 법조, 69(3), pp.51~82 (2020), 법조협회[DOI]
- 이도국, "인공지능(AI)의 민사법적 지위와 책임에 관한 소고", 법학논총, 34(4), pp.319~339 (2017), 법학연구소[DOI]
- 이상용, "인공지능과 계약법 - 인공 에이전트에 의한 계약과 사적자치의 원칙 -", 비교사법, 23(4), pp.1639~1700 (2016), 한국사법학회[DOI]
- 이상용, "인공지능과 법인격", 민사법학, 89, pp.3~49 (2019), 한국민사법학회[DOI]
- 이성진, "인공지능과 법인격 인정", 민사법의 이론과 실무, 23(3), pp.63~93 (2020), 민사법의 이론과 실무학회[DOI]
- 이충훈, "인공지능(Artificial Intelligence)을 이용한 의사표시의 주체", 법학연구, 30(1), pp.285~317 (2020), 법학연구원[DOI]
- 장보은, "인공지능을 이용한 행위에 대한 법적인 평가 - 사법(私法)상 논의를 위한 시론(試論 또는 始論) -", 외법논집, 43(4), pp.43~71 (2019), 법학연구소[DOI]
- 장재옥, "인공지능의 법적 지위에 관한 논의 -전자인과 관련하여-", 法學論文集, 43(1), pp.103~141 (2019), 법학연구원[DOI]
- 정경영, "전자의사표시의 주체에 관한 연구", 비교사법, 5(2) (1998)
- 지원림, "자동화된 의사표시", 저스티스, 31(3) (1998)
- 최민수, "인공지능 로봇의 오작동에 의한 사고로 인한 불법행위책임", 민사법의 이론과 실무, 23(3), pp.1~61 (2020), 민사법의 이론과 실무학회[DOI]
- 岡本裕樹, "AIへの法人格付与に関する私法上の覚書(2⋅完)", 筑波ロー・ ジャーナル, (29) (2020)
- 岡本裕樹, "AIへの法人格付与に関する私法上の覚書⑴", 筑波ロー・ ジャーナル, (28) (2020)
- 近内京太, "ＡＩ搭載ロボットによる不法行為責任のフレームワーク : 製 造者, 所有者, 使用者の責任をめぐる一試論", NBL, (1157) (2019)
- 斉藤邦史, "人工知能に対する法人格の付与", 情報通信学会誌, 35(3) (2017)
- 青木人志, "権利主体性」概念を考える─AI が権利をもつ日は来るのか", 法教, (443) (2017)
- Bostrom, "Superintelligence, Paths, Dangers, Strategies" (2014)
- Bull, "Sinn und Unsinn des Datenschutzes" (2015)
- "Busche, in: MüKoBGB, 9. Aufl. 2021m vor BGB § 145", ~
- "Ellenberger, in: Palandt, BGB, 77. Aufl. 2018, Einl vor BGB § 116", ~
- Gitter, "Softwareagenten im elektronischen Geschäftsverkehr" (2007)
- Grapentin, "Vertragsschluss und vertragliches Verschulden beim Einsatz von Künstlicher Intelligenz und Softwareagenten" (2018)
- Günther, "Roboter und rechtliche Verantwortung" (2016)
- Günther, "Robotik und Gesetzgebung" (2013)
- Hilgendorf, "Robotik im Kontext von Recht und Moral" (2013)
- John, "Haftung für künstliche Intelligenz" (2007)
- Kirn, "Rechtliche Risiken autonomer und vernetzter Systeme" (2016)
- Leupold, "Münchener Anwaltshandbuch IT-Recht" (2021)
- Matthias, "Automaten als Träger von Rechten" (2007)
- Mayinger, "Die künstliche Person" (2017)
- Nitschke, "Verträge unter Beteiligung von Softwareagenten" (2010)
- Riehm, "Rechtshandbuch Artificial Intelligence und Machine Learning" (2020)
- "Schubert, in: MüKoBGB, 9. Aufl. 2021, BGB § 164", ~
- Seelmann, "Intelligente Agenten und das Recht" (2016)
- Thöne, "Autonome Systeme und deliktische Haftung" (2020)
- "Wagner, in: MüKoBGB, 8. Aufl. 2020, BGB § 823", ~
- Wagner, "Zivilrechtliche und rechtsökonomische Probleme des Internet und der künstlichen Intelligenz", pp.1~ (2019)
- Zech, "Entscheidungen digitaler autonomer Systeme: Empfehlen sich Regelungen zu Veranwortung und Haftung, Gutachten A zum 73. Deutschen Juristentag Hamburg 2020", Bonn 2022, 2022
- Zöchling-Jud, "Das Vertragsrecht des ABGB auf dem Prüfstand — Überlegungen im digitalen Zeitalter", ÖJT Band II
- Allen, "Can Computers Make Contracts?", Harvard Journal of Law & Technology, 9, pp.25~ (1996)
- Beck, "Mensch-Roboter-Interaktionen aus interkultureller Perspektive", pp.133~ (2012), Japan und Deutschland im Vergleich
- Beck, "Der rechtliche Status autonomer Maschinen", AJP, pp.183~ (2017)
- Beck, "Grundlegende Fragen zum rechtlichen Umgang mit der Robotik", JR, pp.225~ (2009)
- Beck, "Über Sinn und Unsinn von Statusfragen - zu Vor- und Nachteilen der Einführung einer elektronischen Person", pp.239~ (2013)
- Beck, "Jenseits von Mensch und Maschine", pp.119~ (2012)
- Bitter, "Grundzüge zivilrechtlicher Methodik: Schlüssel zu einer gelungenen Fallbearbeitung", JuS, pp.297~ (2009)
- "Kommunikationsadressen als digitale Rechtssubjekte" (2019)[URL]
- Borges, "Rechtliche Rahmenbedingungen für autonome Systeme", NJW, pp.977~ (2018)
- Chopra, "A Legal Theory for Autonomous Artificial Agents", pp.162~ (2011), Ann Arbor
- Cornelius, "Autonome Softwareagenten im Verbandssanktionenrecht", ZRP, pp.8~ (2019)
- Cornelius, "Vertragsabschluss durch autonome elektronische Agenten", MMR, pp.353~ (2002)
- DEK, "Gutachten der Datenethikkommission" (2019)
- Ebneter, "Warum Tiere nicht Teil unserer Rechtsordnung sein können, Roboter es aber werden können" (2010), Jusletter
- Gitter, "Rechtsfrage mobiler Agentensysteme im E-Commerce", pp.66~ (2003), K&R
- Gruber, "Jenseits von Mensch und Maschine. Ethische und rechtliche Fragen zum Umgang mit Robotern", pp.133~ (2012), Künstlicher Intelligenz und Cyborgs
- Hilgendorf, "Das Recht vor den Herausforderungen der modernen Technik", pp.11~ (2013)
- HLEG, "Draft Ethics Guidelines for Trustworthy AI" (2018)
- Hubbard, "«Do Androids Dream»? : Personhood and Intelligent Artifacts", Temple Law Review, 83, pp.405~ (2011)
- Ingold, "Grundrechtsschutz sozialer Emergenz. Eine Neukonfiguration juristischer Personalität in Art. 19 Abs. 3 GG angesichts webbasierter Kollektivitätsformen", Der Staat, 53, pp.193~ (2014)
- Joerden, "Menschenwürde und Medizin", pp.919~ (2013)
- Kainer, "Autonome Systeme im Kontext des Vertragsrechts", ZfPW, pp.275~ (2020)
- Karnow, "Liability for Distributed Artificial Intelligences", Berkeley Technology Law Journal, 11, pp.147~ (1996)
- Karnow, "The Encrypted Self : Fleshing Out the Rights of Electronic Personalities", The John Marshall Journal of Computer & Information Law, 13, pp.1~16 (1994)
- "Providing for Autonomous Electronic Devices in the Uniform Electronic Commerce Act"[URL]
- Kerr, "Spirits in a Material World : Intelligent Agents as Intermediaries in Electronic Commerce", Dalhousie Law Journal, 22, pp.190~ (1999)
- Kersten, "Menschen und Maschinen Rechtliche Konturen instrumenteller, symbiotischer und autonomer Konstellationen", JZ, pp.1~ (2015)
- Keßler, "Intelligente Roboter - neue Technologien im Einsatz", MMR, pp.589~ (2017)
- Kirn, "Intelligente (Software-)Agenten: Von der Automatisierung zur Autonomie? - Verselbstständigung technischer Systeme", MMR, pp.225~ (2014)
- Klingbeil, "Schuldnerhaftung für Roboterversagen", JZ, pp.718~ (2019)
- Kluge, "Autonome Systeme: Überlegungen zur Forderung nach einer „Roboterhaftung“", pp.24~ (2017), InTeR
- Kreutz, "Autonomes Fahren" (2020), Kap
- Krimphove, "Künstliche Intelligenz im Recht - eine Übersicht", JURA, pp.764~ (2021)
- Lehmann, "Der Begriff der Rechtsfähigkeit", AcP, 207, pp.227~ (2007)
- Lohsse, "Liability for Artificial Intelligence and the Internet of Things", pp.27~ (2019)
- "Digitale Rechtssubjekte, Handlungsfähigkeit und Verantwortung aus philosophischer Sicht" (2019)[URL]
- Narayanan, "Artificial intelligence: human effects", pp.52~ (1984)
- Neuner, "Was ist eine Willenserklärung", JuS, pp.881~ (2007)
- Omlor, "Methodik 4.0 für ein KI-Deliktsrecht", pp.221~ (2020), InTeR
- Reinisch, "Künstliche Intelligenz — Haftungsfragen 4.0 und weitere zivilrechtliche Überlegungen zu autonomen Systemen", ÖJZ, pp.289~ (2019)
- Riehm, "Nein zur ePerson!", RDi, pp.42~ (2020)
- Ruster, "Willenserklärungen autonomer Systeme?: Zum Vertragsschluss bei Einsatz künstlicher Intelligenz (Teil 1)", JR, pp.533~ (2020)
- Ruster, "Willenserklärungen mittels autonomer Systeme?: Zum Vertragsschluss bei Einsatz künstlicher Intelligenz (Teil 2)", JR, pp.639~ (2020)
- Schirmer, "Rechtsfähige Roboter", JZ, pp.660~ (2016)
- Schirmer, "Von Mäusen, Menschen und Maschinen — Autonome Systeme in der Architektur der Rechtsfähigkeit", JZ, pp.711~ (2019)
- Schweighofer, "Auf dem Weg zur ePerson: Akuelle Fragestellungen der Rechtsinformatik 2001" (2001)
- Solum, "Legal Personhood for Artificial Intelligences", North Carolina Law Review, 70, pp.1231~ (1992)
- Specht, "Herold", Roboter als Vertragspartner, 2018, 40~
- "Spindler, in: Spindler", Schuster, Recht der elektronischen Medien 4. Aufl. 2019, Vorb. zu §§ 116 ff BGB
- Spindler, Roboter, "Automation, künstliche Intelligenz, selbst-steuernde Kfz - Braucht das Recht neue Haftungskategorien?", CR, pp.766~ (2015)
- Spindler, "Zukunft der Digitalisierung - Datenwirtschaft in der Unternehmenspraxis, DB Dossier 22 „Rechtliche Gestaltung der Digitalisierung“" (2018)
- Teubner, "Digitale Rechtssubjekte?", AcP, 218, pp.155~ (2018)
- Wagner, Robot, Inc, "Personhood for Autonomous Systems?", Fordham L. Rev, 88, pp.591~ (2019)
- Wein, "The Responsibility of Intelligent Artifacts : Toward an Automation Jurisprudence", Harvard Journal of Law & Technology, 6, pp.103~ (1992)
- Weingart, "Vertragsschluss durch Verhandlungsagenten — Wenn Software eigenständig im Rechtsverkehr auftritten", CR, pp.701~ (2020)
- Wettig, "Vertragsschluss mittels elektronischer Agenten" (2010)
- Wettig, "Artificial Intelligence and Law", pp.127~ (2004)
- Wulf, "Industrie 4.0 in der Logistik — Rechtliche Hürden beim Einsatz neuer Vernetzungs-Technologien", CR, pp.404~ (2015)
- EU-Kommission, "Schaffung von Vertrauen in eine auf den Menschen ausgerichtete künstliche Intelligenz, COM(2019) 168 final; Expert Group on Liability and New Technologies", Liability for Artificial Intelligence and other emerging technologies, 21, pp.11~ (2019)
- Europäische Kommission, "WEISSBUCH zur Künstlichen Intelligenz ― ein europäisches Konzept für Exzellenz und Vertrauen, Brüssel, den 19. 2. 2020 COM(2020) 65 final", ~
- "European Parl\iament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics, 2015", 2103(INL)
- "Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain union legislative acts, COM(2021) 206 final", ~
- "Regelung der zivilrechtlichen Haftung beim Einsatz künstlicher Intelligenz, 7, 2020", 2014 (INL), 20.10.2020, der Empfehlung des eingesetzten Expertengremiums folgend