본문 바로가기
KERD
논문KCI 등재

인공지능과 제조물책임

Artificial Intelligence and Product Liability

이해원
한국정보법학회 (Korea Association For Info-Media Law(Kafil))|2021.08|정보법학 (Journal of Korea Infomation Law)|제25권 제2호|pp. 69-101

0

조회

0

다운로드

13

인용

0

참고문헌

키워드

AI인공지능product liability증명책임제조물책임artificial intelligenceproduct제조물burden of proofdefect결함개발위험의 항변development riskstate-of-art risk
주제분류법학

초록

자율성, 예측불가능성, 설명불가능성과 같은 특징을 가지는 인공지능의 등장으로기존에는 예견하지 못하였던 ‘인간의 개입이 없거나 최소화된 상황에서 인공지능이자율적으로 판단하고 동작한 결과 발생한 사고’(이하 ‘인공지능 사고’)가 문제되고 있다. 인공지능 사고는 특성상 인공지능의 동작을 사람의 행위로 귀속시키기 어렵고, 과실이 인정되기 곤란하며, 피해자의 증명도 현실적으로 대부분 불가능하므로 과실책임주의에 기초한 전통적인 불법행위책임법리를 적용하기에는 한계가 있다. 이러한이유로 인공지능 사고를 규율하는 유력한 책임법리로 제조물책임이 거론되고 있다. 본고는 인공지능 사고에 제조물책임을 적용할 경우의 쟁점을 인공지능의 제조물성, 인공지능의 결함 판단, 피해자의 증명책임, 제조업자의 항변으로 나누어 검토하였다. 검토 결과는 다음과 같다. 첫째, 인공지능이 유체물과 결합하지 않은 ‘순수한 소프트웨어’ 또는 ‘서비스’의 형태로도 유통되고 있음을 고려할 때 소프트웨어가 포함되도록 제조물 개념이 확장될 필요가 있다. 둘째, 결함에 관한 기존 제조물책임법리는 인공지능 사고에도 동일하게 적용될 수 있다. 인공지능 의 특성상 결함의 증명이 어려울 수 있지만 엄밀히 말하여 이는 피해자의 증명책임과 관련된 문제이다. 셋째, 인공지능 사고에 관하여 제조물책임이 이론적 차원을 넘어 실천적 법리로 기능하기 위해서는 피해자의 증명 부담을 경감시킴과 동시에 그로 인하여 발생하는 제조업자의 불이익과의 적절한 균형을 달성하여야 한다. 구체적으로는 피해자에게 인공지능 로그기록 접근권을 보장하는 방안이 적절하다고 생각된다. 넷째, 개발위험의 항변 등 현행법상 규정된 제조업자의 항변은 인공지능 사고의 경우에도 동일하게 인정되는 것이 타당하다. 제조물책임은 제조물의 결함으로 손해를 입은 자가 배상받도록 보장함과 동시에제조업자가 제조물의 결함으로 인한 손해를 유발하지 않도록 경제적 유인책을 제공하는 양자의 기능을 균형있게 수행하여야 한다. 인공지능의 경우에도 이러한 제조물책임의 역할은 관철되어야 할 것이다

Abstract

One of the key issues with the advent of artificial intelligence(hereinafter ‘AI’) is how to deal with the ‘accidents that occurred as a result of autonomous judgment and operation of AI in a situation where there was no or minimal human intervention’(hereinafter ‘AI accidents’). Due to the features of AI such as autonomy, unpredictability, and inexplainability, there are substantial limitations that apply the traditional tort liability law based on negligence to AI accidents. For this reason, product liability is being discussed as a rational liability principle regulating AI accidents. This paper examines the issues in the case of applying product liability to AI accidents by dividing them into ‘AI as a product’, ‘defectiveness of AI’, ‘burden of proof’, and ‘manufacturer’s defence’. The results are as follows. First, considering that AI is being distributed in the form of software or service without being combined with physical objects, the concept of products needs to be expanded to include software. Second, the existing defect theory of product liability can be equally applied to AI accidents. Third, in order for product liability to function as a practical legal principle beyond the theoretical level in relation to AI accidents, it is necessary to reduce the burden of proof on the victim and achieve an appropriate balance with the disadvantages of the manufacturer. Specifically, it is considered appropriate to guarantee victims a right to access AI log records. Fourth, it is reasonable that manufacturers’ defenses stipulated in the current law, such as development risk, are equally recognized in the case of AI accidents. Product liability should perform the function of providing the balance between economic incentives to ensure that the damage caused by the defect in the product is compensated and to prevent the manufacturer from causing damage due to the defect in the product. Even in the case of AI, this role of product liability should be attained.

참고문헌 (48)

  1. 권오승, "제조물 책임법" (2003), 법문사
  2. 김용덕, "주석 민법 – 채권각칙(7)" (2016), 한국사법행정학회
  3. 김준호, "민법강의" (2019), 법문사
  4. 한국인공지능법학회, "인공지능과 법" (2019), 박영사
  5. Samir Chopra, "A LEGAL THEORY FOR AUTONOMOUS ARTIFICIAL AGENTS" (2011), The University of Michigan Press
  6. 고세일, "인공지능과 불법행위책임 법리", 법학연구, 29(2), pp.85~117 (2018), 법학연구소[DOI]
  7. 구재군, "제조물책임법 개정 방향 - 인공지능(소프트웨어)의 제조물성 인정 여부를 중심으로 -", 법조, 70(2), pp.80~106 (2021), 법조협회[DOI]
  8. 권영준, "불법행위법의 사상적 기초와 그 시사점 - 예방과 회복의 패러다임을 중심으로 -", 저스티스, (109), pp.73~107 (2009), 한국법학원
  9. 권영준, "자율주행자동차 사고와 민사책임", 민사법학, 75, pp.449~496 (2016), 한국민사법학회
  10. 김대경, "자동차급발진사고와 제조물책임", 경희법학, 48(1), pp.93~128 (2013), 법학연구소
  11. 김민중, "제조물 책임법의 개정방향에 대한 검토", 동북아법연구, 9(3), pp.289~335 (2016), 동북아법연구소[DOI]
  12. 김성룡, "유추의 구조와 유추금지", 법철학연구, 12(2), pp.29~72 (2009), 한국법철학회
  13. 김성호, "인공지능과 불법행위책임", 입법과 정책, 11(1), pp.265~284 (2019), 국회입법조사처[DOI]
  14. 김진우, "자동주행에서의 민사책임에 관한 연구 - 개정된 독일 도로교통법과 우리 입법의 방향 -", 강원법학, 51, pp.33~67 (2017), 비교법학연구소[DOI]
  15. 김진우, "인공지능: 제조물책임법의 업데이트 여부에 관하여", 재산법연구, 37(2), pp.25~54 (2020), 한국재산법학회[DOI]
  16. 김진우, "자율주행차의 설계상 결함에 관한 법적 쟁점", 서울대학교 법학, 59(4), pp.159~201 (2018), 법학연구소[DOI]
  17. 김천수, "제조물책임법상 제조물의 개념", 성균관법학, 16(1), pp.35~66 (2004), 법학연구원
  18. 박동진, "제조물책임법 개정시안의 중요내용", 비교사법, 20(3), pp.553~598 (2013), 한국사법학회[DOI]
  19. 박소영, "손해배상책임 관점에서의 인공지능 특징과 관련 제도 논의", Law & Technology, 15(3) (2019), 서울대학교 기술과법센터
  20. 박지흔, "자율주행자동차 사고의 제조물책임법 적용에 관한 연구 - 소프트웨어의 제조물성 근거규정 도입에 대하여 -", 국제법무, 12(1), pp.69~90 (2020), 법과정책연구원[DOI]
  21. 서종희, "4차 산업혁명 시대 위험책임의 역할과 한계 -인공지능 로봇에 의해 발생한 손해의 책임귀속을 고려하여", 사법, 1(43), pp.69~107 (2018), 사법발전재단[DOI]
  22. 서희석, "개정 제조물책임법(2017년)의 의의와 한계", 과학기술과 법, 8(1), pp.137~169 (2017), 법학연구소
  23. 양종모, "인공지능의 위험의 특성과 법적 규제방안", 홍익법학, 17(4), pp.537~565 (2016), 법학연구소[DOI]
  24. 연기영, "제조물책임법의 제정과 기업의 대책", 비교사법, 6(1) (1999), 한국비교사법학회
  25. 오병철, "인공지능 로봇에 의한 손해의 불법행위책임", 법학연구, 27(4), pp.157~231 (2017), 법학연구원[DOI]
  26. 오병철, "컴퓨터 프로그램의 물성에 관한 재검토", 재산법연구, 26(3), pp.293~323 (2010), 한국재산법학회
  27. 윤진수, "제조물책임의 주요 쟁점- 최근의 논의를 중심으로", 법학연구, 21(3), pp.1~55 (2011), 법학연구원
  28. 이상정, "제조물책임법 제정의 의의와 향후 과제", 저스티스, (68) (2002), 한국법학원
  29. 이은영, "전자상거래와 소비자법 – 계약의 이행을 중심으로 –", 비교사법, 5(2) (1998), 한국비교사법학회
  30. 이해원, "인공지능과 법인격 - 불법행위책임의 관점에서 -", 법조, 70(4), pp.208~245 (2021), 법조협회[DOI]
  31. 전경운, "독일민법상 불법행위적 제조물책임에 관한 소고", 법과정책연구, 12(3), pp.1343~1383 (2012), 한국법정책학회[DOI]
  32. 정진명, "인공지능에 대한 민사책임 법리", 재산법연구, 34(4), pp.137~168 (2018), 한국재산법학회[DOI]
  33. 최경진, "민법상 물건에 관한 연구", 박사, 민사법, pp.2004
  34. Bryan Casey, "Robot Ipsa Loquitur", GEO. L. J., 180, pp.225~ (2019)
  35. Charlotte De Meeus, "The Product Liability Directive at the Age of the Digital Industrial Revolution: Fit for Innovation?", JOURNAL OF EUROPEAN CONSUMER AND MARKET LAW, 8(4), pp.149~ (2019)
  36. David Silver, "Mastering the game of Go without human knowledge", NATURE, 550(7676), pp.355~ (2017)
  37. Kyle Graham, "Of Frightened Horses and Autonomous Vehicles: Tort Law and Its Assimilation of Innovations", SANTA CLARA L. REV., 52, pp.1241~ (2012)
  38. Maruerite E. Gerstner, "Liability Issues with Artificial Intelligence Software", SANTA CLARA L. REV., 33, pp.239~ (1993)
  39. Astrid Seehafer, "Künstliche Intelligenz: Updates für das Produkthaftungsrecht?", EuZW, pp.213~ (2020)
  40. Gerhard Wagner, "Produkthaftung für autonome Systeme", AcP, pp.707~ (2017)
  41. Klaus Vieweg, "Produktrückruf als Instrument präventiven Verbraucherschutzes", Jura, pp.561~ (1997)
  42. Peter Marburger, "Grundsatzfragen des Haftungsrechts unter dem Einfluß der gesetzlichen Regelungen zur Produzenten- und zur Umwelthaftung", AcP, pp.1~ (1992)
  43. Saskia Wittbrodt, "Industrie 4.0 und die Haftung für Maschinensoftware", InTeR, pp.74~ (2020)
  44. 제조물책임법 개정 방안 연구, "박동진", 법무부⋅공정거래위원회, ~ (2012)
  45. Abhijit Dubey, "Delivering Software as a Service", The Mckinsey Quarterly (2005)
  46. David Gunning, "Explainable Artificial Intelligence(XAI)", DARPA-BAA-16-53, ~ (2016)
  47. First Draft of a Report on the EDVAC, "John von Neumann", University of Pennsylvania, ~ (1945)
  48. "Bundesministerium für Wirtschaft und Energie, Künstliche Intelligenz und Recht im Kontext von Industrie 4.0", Plattform Industrie 4.0 Ergebnispapier, ~ (2019)

관련 논문AI추천

인공지능: 제조물책임법의 업데이트 여부에 관하여김진우한국재산법학회 · 재산법연구2020 · 제37권 제2호인공지능과 제조물책임 - 유럽 제조물책임 지침 개정에 즈음하여 -이종구법학연구원 · 법학논총2025 · 제49권 제4호인공지능과 불법행위책임최경진한국정보법학회 · 정보법학2021 · 제25권 제2호인공지능 오류사고 민사책임에 대한입법론적 검토김진아한국재산법학회 · 재산법연구2022 · 제39권 제2호인공지능과 불법행위책임김성호국회입법조사처 · 입법과 정책2019 · 제11권 제1호과실책임에 의한 인공지능 오류사고 규율가능성김진아고려대학교 법학연구원 · 고려법학2022 · 제105호

이 간행물의 다른 논문 (7건)

인공지능 통제를 위한 규제의 동향과 시사점권헌영, 박혜성, 김법연pp. 1-39인공지능과 불법행위책임최경진pp. 41-68이루다 사건을 통해서 보는 개인정보의 인공지능 학습데이터 활용 가능성전승재, 고명석pp. 103-133제3의 재산으로서 데이터의 체계적 정립오병철pp. 135-178딥러닝과 데이터마이닝에 있어서의 데이터베이스권의 범위와 제한에 관한 고찰송석현, 김기정pp. 179-221
원문 보기