본문 바로가기
KERD
논문KCI 등재

인공지능 오류사고 민사책임에 대한입법론적 검토

Legislative Review of Civil Liabilityfor Accidents Involving Errors in Artificial Intelligence

김진아
한국재산법학회 (THE KOREAN SOCIETY OF PROPERTY LAW)|2022.08|재산법연구 (THE JOURNAL OF PROPERTY LAW)|제39권 제2호|pp. 273-308|DOI 10.35142/prolaw.39.2.202208.010

0

조회

0

다운로드

4

인용

0

참고문헌

키워드

인공지능증명책임과실책임Artificial Intelligence제조물Burden of ProofProduct특별법Special Law오류사고Error AccidentLiability for Negligence

초록

이 논문은 인공지능의 책임법적 논의에서 주요하게 등장하고 있는 입법쟁점을 검토하였다. 구체적으로 보면, 민법 개정과 관련하여 인공지능에 법인격을 부여할 필요가 있는지, 인공지능 관련 특별법을 제정할 필요가 있는지, 제조물 책임법 개정과 관련하여 인공지능 등 소프트웨어를 제조물에 포함시킬 필요가 있는지를 검토하였다. 그 논의 결과를 각 쟁점별로 요약하면 다음과 같다. 첫째, 민법 개정과 관련하여 인공지능에 법인격을 부여할 필요가 있는지에 대해서, 법인격 부여가 필요하지 않다고 판단하였다. 인공지능 오류사고를 개발자, 이용자 등의 과실책임으로 규율할 수 있어, 인공지능에 별도로 법인격을 부여하여 그 자체에 책임을 귀속시킬 필요성이 낮기 때문이다. 설령 그 필요성이 인정된다고 하더라도, 인공지능에 책임재산을 귀속시키는 문제, 책임재산의 상한이 설정되는 문제, 그 법인격을 형해화시키는 문제 등 다양한 문제가 연쇄적으로 발생할 수 있으므로 인공지능에 법인격을 부여하는 것은 타당하지 않다. 둘째, 특별법 제정과 관련하여, 인공지능 오류사고를 둘러싼 법적 불확실성을 완화하기 위해서 특별법을 제정할 필요가 있다고 판단하였다. 인공지능 오류사고를 어떠한 귀책근거로 규율해야 하는지에 대한 다양한 견해가 제기되고 있는 상황에서 과실책임을 그 귀책근거로 명시하고, 인공지능 오류사고에 대한 재판례가 부족하여 개발자나 이용자 등에게 인정될 주의의무가 무엇인지 짐작하기 어려운 상황에서 특별법에 근거한 대통령령에서 주의의무로 인정될 개연성이 높은 위험방지조치를 언급하며, 인공지능 오류사고로 인한 손해배상청구소송에 과실 또는 인과관계 등에 대한 증명책임 완화 법리가 제시될 가능성이 있는 상황에서 특별법에 증명책임 완화를 명시함으로써, 인공지능 오류사고를 둘러싼 법적 불확실성을 완화할 필요가 있다는 것이다. 셋째, 제조물 책임법 개정과 관련하여, 인공지능 등 소프트웨어를 제조물에 포함시킬 필요가 있는지에 대해서, 이러한 개정이 혁신에 미치는 영향은 부정적일 수 있지만 그 영향은 제한적인 반면, 회복, 예방, 형평에 미치는 영향은 긍정적이라는 이유로 개정이 필요하다고 판단하였다. 소프트웨어를 제조물에 포함하면, 피해자의 손해 회복 개연성이 높아지고, 소프트웨어 개발자로 하여금 더욱 주의를 기울이도록 함으로써 사고 예방의 효과가 발생할 수 있으며, 네트워크를 통해 배포되는 소프트웨어와 정보저장매체에 담긴 소프트웨어 간의 형평성을 제고할 수 있다. 반면 장래의 제조물책임비용의 증가로 인공지능 기술 등 소프트웨어 산업의 혁신을 저해할 수 있으나, 산업 발전을 상당히 지체시킬 정도는 아니라고 판단하였다. 이러한 이유로 소프트웨어를 제조물에 포함시키는 개정이 필요하다. 이상과 같이 이 논문은 인공지능에 법인격을 부여하는 민법 개정은 필요하지 않으나, 인공지능 관련 특별법 제정을 통하여 인공지능 오류사고를 둘러싼 법적 불확실성을 완화할 필요가 있으며, 소프트웨어를 제조물에 포함하는 제조물 책임법 개정은 필요하다고 판단하였다.

Abstract

This paper reviewed the issues that appear mainly in the discussion of the responsibility law of artificial intelligence. Specifically, it was reviewed whether it was necessary to grant a legal personality to artificial intelligence in relation to the revision of the Civil Act, whether it was necessary to enact a special law related to artificial intelligence, and whether it was necessary to include software such as artificial intelligence in the product in relation to the revision of the Product Liability Act. The results of the discussion are summarized by each issue as follows. Firt, it was judged that it was not necessary to grant a legal personality to artificial intelligence in relation to the revision of the Civil Act. This is because artificial intelligence error accidents can be regulated as negligence responsibilities of developers and users, so there is a low need to attribute responsibility to artificial intelligence by giving it a separate legal personality. Even if the necessity is recognized, it is not reasonable to give artificial intelligence a legal personality because various problems such as attributing responsible property to artificial intelligence and setting an upper limit on responsible property may occur in a series. Second, in relation to the enactment of a special law, it was judged that it was necessary to enact a special law to alleviate legal uncertainty surrounding artificial intelligence error accidents. Various opinions are being raised on what basis attributable to artificial intelligence error accidents should be regulated. In this situation, it is necessary to specify the liability for negligence as the basis for attribution in the special law. In addition, due to the lack of precedents for artificial intelligence error accidents, it is difficult to guess what the duty of care to be recognized by developers and users is. Therefore, it is necessary to mention risk prevention measures that are highly likely to be recognized as a duty of care in presidential decrees based on special laws. In addition, in a lawsuit for compensation for damages caused by an artificial intelligence error accident, the victim may be excessively burdened with proving negligence or causal relationship, so it is necessary to specify the law to ease the burden of proof. In this way, it is necessary to alleviate the legal uncertainty surrounding artificial intelligence error accidents by specifying the basis for attribution in the special law. Third, regarding the revision of the Product Liability Act, whether it is necessary to include software such as artificial intelligence in the product may have a negative impact on innovation, but the impact on recovery, prevention, and equity is positive. The inclusion of software in the product increases the victim's risk of damage recovery, increases the risk of accident prevention by requiring more attention to software developers, and improves equity between software distributed over the network and software contained in the storage medium. On the other hand, it was judged that the increase in product responsibility costs in the future could hinder innovation in the software industry such as artificial intelligence technology, but it was not enough to significantly delay industrial development. For this reason, it is necessary to amend the inclusion of software in the manufacture. As described above, this paper judged that although it is not necessary to revise the Civil Act that grants legal personality to artificial intelligence, it is necessary to alleviate legal uncertainty surrounding artificial intelligence error accidents through the enactment of a special law related to artificial intelligence, and to revise the Product Liability Act, which includes software in the product.

참고문헌 (70)

  1. 특수불법행위법 연구, "사법연수원", ~ (2014)
  2. 오병철, "법정채권법" (2021), 법문사
  3. 양대일, "네트워크과 보안" (2016), 한빛아카데미
  4. 양창수, "권리의 변동과 구제" (2021), 박영사
  5. 고세일, "인공지능과 불법행위책임 법리", 법학연구, 29(2), pp.85~117 (2018), 법학연구소[DOI]
  6. 고학수, "인공지능과 차별", 저스티스, 171, pp.199~277 (2019), 한국법학원[DOI]
  7. 구재군, "제조물책임법 개정 방향 - 인공지능(소프트웨어)의 제조물성 인정 여부를 중심으로 -", 법조, 70(2), pp.80~106 (2021), 법조협회[DOI]
  8. 권대우, "정보사회에 대비한 일반법연구 Ⅳ" (2002), 정보통신정책연구원
  9. 권상로, "제조물책임법의 문제점과 개선방안에 관한 연구", 법학연구, (51), pp.173~194 (2013), 한국법학회
  10. 권영준, "불법행위의 과실 판단과 사회평균인", 비교사법, 22(1), pp.91~132 (2015), 한국사법학회[DOI]
  11. 권영준, "해킹(hacking) 사고에 대한 개인정보처리자의 과실판단기준", 저스티스, (132), pp.34~72 (2012), 한국법학원
  12. 권영준, "자율주행자동차 사고와 민사책임", 민사법학, 75, pp.449~496 (2016), 한국민사법학회
  13. 김민중, "컴퓨터바이러스에 따른 손해에 대한 법적 책임", 인터넷법률, (18) (2003), 법무부
  14. 김성호, "인공지능에 대한 법인격 부여 필요성", 법학논총, 37(3), pp.143~159 (2020), 법학연구소[DOI]
  15. SW제조물책임 관련 법제 현황 조사연구, "김윤명", 소프트웨어정책연구소, ~, pp.소프트웨어정책연구소 연구보고서 2016-009 (2017)
  16. 김진아, "과실책임에 의한 인공지능 오류사고 규율가능성", 고려법학, (105), pp.81~127 (2022), 법학연구원[DOI]
  17. 김진아, "약한 인공지능 오류사고와 손해배상책임 - 과실 판단을 중심으로 -", 박사, pp.2022
  18. 김진우, "인공지능 운영자책임에 관한 유럽의회의 초안 : 평가 및 우리 법에의 시사점", 法學論文集, 45(1), pp.5~56 (2021), 법학연구원[DOI]
  19. 김진우, "인공지능에 대한 전자인 제도 도입의 필요성과 실현방안에 관한 고찰", 저스티스, 171, pp.5~48 (2019), 한국법학원[DOI]
  20. 김진우, "인공지능: 제조물책임법의 업데이트 여부에 관하여", 재산법연구, 37(2), pp.25~54 (2020), 한국재산법학회[DOI]
  21. 김진우, "지능형 로봇과 민사책임", 저스티스, 164, pp.46~80 (2018), 한국법학원[DOI]
  22. 김진우, "지능형 로봇에 대한 사법적 규율— 유럽연합의 입법 권고를 계기로 하여 —", 법조, 66(3), pp.5~59 (2017), 법조협회[DOI]
  23. 류창호, "자율주행자동차에 대한 제조물책임의 적용에 관한 연구", 아주법학, 10(1), pp.29~69 (2016), 법학연구소[DOI]
  24. 문영백, "텔레매틱스 단말 기술 및 시장 동향", 전자통신동향분석, 20(3) (2005), 한국전자통신연구원
  25. 제조물책임법 개정방안 연구, "박동진", 법무부 ‧ 공정거래위원회, ~ (2012)
  26. 박동진, "제조물책임법상 제조물의 개념", 비교사법, 10(4), pp.279~312 (2003), 한국사법학회
  27. 배대헌, "거래대상으로서의 디지털정보와 물건 개념 확대에 대한 검토", 상사판례연구, (14) (2003), 한국상사판례학회
  28. 서종희, "4차 산업혁명 시대 위험책임의 역할과 한계 -인공지능 로봇에 의해 발생한 손해의 책임귀속을 고려하여", 사법, 1(43), pp.69~107 (2018), 사법발전재단[DOI]
  29. 송호영, "인공지능 로봇은 법인격을 가질 수 있는가?", 저스티스, 184, pp.83~113 (2021), 한국법학원[DOI]
  30. 오병철, "인공지능 로봇에 의한 손해의 불법행위책임", 법학연구, 27(4), pp.157~231 (2017), 법학연구원[DOI]
  31. 오병철, "제3의 재산으로서 데이터의 체계적 정립", 정보법학, 25(2), pp.135~178 (2021), 한국정보법학회
  32. 오병철, "컴퓨터 프로그램의 물성에 관한 재검토", 재산법연구, 26(3), pp.293~323 (2010), 한국재산법학회
  33. 오병철, "현대 사회의 변화와 민법전의 대응", 민사법학, 93, pp.435~490 (2020), 한국민사법학회[DOI]
  34. 이경미, "인공지능의 소프트웨어 오류로 인한 민사책임", 가천법학, 13(1), pp.183~210 (2020), 법학연구소[DOI]
  35. 이봉민, "위험영역설과 증거법적 보증책임", 민사판례연구, 41 (2019), 민사판례연구회
  36. 이상수, "소프트웨어에 대한 제조물책임 연구", 박사, pp.2015
  37. 이상용, "인공지능과 법인격", 민사법학, 89, pp.3~49 (2019), 한국민사법학회[DOI]
  38. 이상정, "제조물책임법 제정의 의의와 향후 과제", 저스티스, 68 (2002), 한국법학원
  39. 법률서비스 보험제도 연구, "이은빈", 사법정책연구원, ~, pp.사법정책연구총서 2020-14 (2020)
  40. 이충훈, "인공지능(Artificial Intelligence)을 이용한 의사표시의 주체", 법학연구, 30(1), pp.285~317 (2020), 법학연구원[DOI]
  41. 이현균, "자율운항선박 운항 관련 책임에 관한 연구", 박사, pp.2019
  42. 장보은, "인공지능을 이용한 행위에 대한 법적인 평가 - 사법(私法)상 논의를 위한 시론(試論 또는 始論) -", 외법논집, 43(4), pp.43~71 (2019), 법학연구소[DOI]
  43. 정완, "인공지능 로봇에 관한 법적 고찰", 경희법학, 55(4), pp.189~221 (2020), 법학연구소[DOI]
  44. 인공지능 사회를 대비한 민사법적 과제 연구, "정진명", 법무부, ~ (2017)
  45. 주지홍, "소프트웨어하자로 인한 손해의 제조물책임법리 적용여부", 민사법학, (25), pp.433~462 (2004), 한국민사법학회
  46. 차성민, "소프트웨어와 제조물책임", 한국통신학회 하계학술대회논문집 (2005)
  47. 허명국, "표준 컴퓨터 프로그램 거래의 법적 성질 - 라이선스설 및 혼합계약설에 대한 비판적 입장에서 -", 비교사법, 16(3), pp.21~69 (2009), 한국사법학회[DOI]
  48. 홍춘의, "컴퓨터 소프트웨어의 오류와 민사책임", 기업법연구, 20(1), pp.335~356 (2006), 한국기업법학회
  49. 자율주행시대 보험제도로서 노폴트보험의 적합성 여부에 대한 고찰, "황현아", 보험연구원, ~ (2018)
  50. 인공지능 관련 기업 우려사항 조사, "KDI 여론분석팀", KDI 경제정보센터, ~ (2020)
  51. Abraham, Kenneth S., "Automated Vehicles and Manufacturer Responsibility for Accidents: A New Legal Regime for a New Era", VA. L. REV, 105, pp.127~ (2019)
  52. Brand, "Haftung und Versicherung beim Einsatz von Robotik in Medizin und Pflege", MedR (2019)
  53. Center for the Fourth Industrial Revolution, "Artificial Intelligence Collides with Patent Law, White Paper" (2018), World Economic Forum
  54. Chopra, Samir, "A Legal Theory for Autonomous Artificial Agents" (2011), University of Michigan Press
  55. Das Plattform Industrie 4.0, "Künstliche Intelligenz und Recht im Kontext von Industrie 4.0", Deutschland Bundesministerium für Wirtschaft und Energie, ~ (2019)
  56. EC Expert Group on Liability and New Technologies, "Liability for artificial intelligence and other emerging digital technologies", European Commission, ~ (2019)
  57. Geistfeld, Mark A., "A Roadmap for Autonomous Vehicles: State Tort Liability, Automobile Insurance, and Federal Safety Regulation", Calif. L. Rev, 105, pp.1611~ (2017)
  58. Gurney, Jeffrey K., "Sue My Car Not Me: Products Liability and Accidents Involving Autonomous Vehicles", U. Ill. J. L. Tech. & Pol'y, 2013, pp.247~ (2013)
  59. Hubbard, F. Patrick, "Sophisticated Robots: Balancing Liability, Regulation, and Innovation", Fla. L. Rev, 66, pp.1803~ (2014)
  60. Koch, Bernhard A., "Liability for Artificial Intelligence and the Internet of Things" (2019), Bloomsbury Publishing
  61. Rachum-Twaig, Omri, "Whose Robot Is It Anyway?: Liability for Artificial- Intelligence-Based Robots", U. Ill. L. Rev, 2020, pp.1141~ (2020)
  62. Riehm, Thomas, "Nein zur ePerson!", RDi, ~ (2020)
  63. Riehm, "DGRI Jahrbuch 2018" (2019), Künstliche Intelligenzim Zivilrecht
  64. Scherer, Matthew, "Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies", Harv. J. L. & Tech, 29, pp.353~ (2016)
  65. Schönberger, Daniel, "Artificial intelligence in healthcare: a critical analysis of the legal and ethical implications", International Journal of Law and Information Technology, 27(2), pp.171~ (2019)
  66. Damages Liability for Harm Caused by Artificial Intelligence - EU Law in Flux, "Schütte, Béatrice", 1~, pp.Helsinki Legal Studies Research Paper No. 69 (2021)
  67. Selbst, Andrew D., "Negligence and AI's Human Users", B. U. L. Rev, 100, pp.1315~ (2020)
  68. Solum, Lawrence B., "Legal Personhood for Artificial Intelligences", N. C. L. REV, 70, pp.1231~ (1992)
  69. Vladeck, David C., "Machines Without Principals: Liability Rules and Artificial Intelligence", Wash. L. Rev, 89, pp.117~ (2014)
  70. 加藤雅信, "事務管理․不當利得․不法行爲" (2005), 有斐閣

관련 논문AI추천

인공지능과 제조물책임이해원한국정보법학회 · 정보법학2021 · 제25권 제2호인공지능 기술에 있어서 법인격 부여와 책임론이수경한국재산법학회 · 재산법연구2022 · 제39권 제1호인공지능과 불법행위책임최경진한국정보법학회 · 정보법학2021 · 제25권 제2호AI의 민사책임에 관한 고찰 - EU의 입법동향을 중심으로 -김훈주동북아법연구소 · 동북아법연구2022 · 제16권 제2호과실책임에 의한 인공지능 오류사고 규율가능성김진아고려대학교 법학연구원 · 고려법학2022 · 제105호인공지능: 제조물책임법의 업데이트 여부에 관하여김진우한국재산법학회 · 재산법연구2020 · 제37권 제2호

이 간행물의 다른 논문 (9건)

태아의 초상권 보호 연구임대성pp. 1-29‘불임치료 의료행위의 남용’에 대한 민사법적 책임론- 미국 인디애나 주 항소심 법원 판결문을 중심으로 -김민성pp. 31-60전자상거래법 규제개선으로서의 자율규제김세준pp. 61-92메타버스 서비스 종료와 소비자 피해구제김도년pp. 93-116메타버스시대 플랫폼사업자의 경쟁 제한적 행위에 대한 유럽연합의 규율- EU디지털시장법(안)에서의 게이트키퍼(gatekeeper)의 경쟁제한행위금지와 공정성보장에 관하여 -성준호pp. 117-148
원문 보기