본문 바로가기
KERD
논문KCI 등재

인공지능에 대한 법인격 부여에 관한 소고(小考) - 민사법적·인간 중심적 관점에 국한하여

A Study on the Legal Personality of Artificial Intelligence - Focusing on the Civil Law and Human-centered Perspective

장호준
사법발전재단|2023.03|사법 (JURIS)|제1권 제63호|pp. 243-285|DOI 10.22825/juris.2023.1.63.007

0

조회

0

다운로드

7

인용

0

참고문헌

키워드

인공지능자율성법인격autonomyartificial intelligence (AI)블랙박스위험책임commercialitylegal personalityblack box영리성설명가능 인공지능(XAI)배후자risk liabilityexplainable AI (XAI)entity behind

초록

이 글에서는 인공지능에 대한 법인격 부여 논의에 관하여, 민사법적·인간 중심적 관점에 국한하여 분석하였다. 먼저 논의의 필요에 맞추어 인공지능 및 법인격의 일반론을 다루되, 인공지능의 자율성과 함께 설명가능성 문제 내지는 블랙박스로서의 성격을 강조하였다. 다음으로 인공지능 법인격 부여 찬성론의 주요 논거로서 배상책임 및 의사표시 귀속 문제에 관한 법적 불확실성에 관하여 살펴본 뒤, 신중론의 입장에서 찬성론의 논거를 탄핵하였다. 인공지능에게 법인격을 부여할 경우 배후의 설계자나 운용자에 의한 프로그램의 조작가능성, 영리 목적의 경우 고도의 위험추구 행위 문제, 소위 위험책임의 논의 등에 비추어 종래의 법인과 비교할 때 남용가능성이 가중되고 특히 불법행위 손해배상채권자의 보호가 문제 될 수 있다. 반면 찬성론 측에서 지적한 법적 불확실성은 종래의 법리의 포괄적 해석 또는 유추적용을 통하여 상당 부분 해소될 수 있을 것이기에[주의의무와 관련하여서는 최근의 설명가능 인공지능(XAI)의 논의도 반영], 이익형량 내지는 비용󰡈편익 분석의 관점에서 살펴볼 때 인공지능에 대한 법인격 부여에 신중할 필요가 있다. 특히 영리와 비영리 분류를 염두에 두어, ‘인공지능 영리법인’의 경우 실정법상 주식회사의 주주와 같이 이익 배분에 관한 경제적 권리를 갖는 배후자의 존재를 감안할 때 종래의 회사 제도를 벗어나기 어려운 점을 강조하여 지적하였다. 다만 제한적인 법인격 도입의 전제 요건으로서, ① 인공지능의 특정 ② 자율성·범용성을 갖는 강인공지능 ③ 의사결정구조의 완결성 ④ 남용가능성에 대한 통제 수단으로서의 비영리성, 자족성 및 충분한 책임재산의 확보, 포괄적 공시의 요건을 제시하였다.

Abstract

This Article analyzes the cost and benefit of granting artificial intelligence (hereinafter “AI”) with legal personality, focusing on the civil law and human-centered perspective. The main argument in favor of granting AI legal personality is based on the legal uncertainty regarding the issue of liability allocation and interpretation of contracts. The alleged legal uncertainty derives from the autonomy, and so-called ‘black box problem’ (the explainability) regarding AI. However, while the issues related to the above legal uncertainty can be dealt with based on the comprehensive interpretation or inferential application of conventional jurisprudence (the recent development in XAI (eXplainable AI) theory also helps solving the problem), granting AI legal personality will greatly increase the possibility of abusing the legal personality, and the protection of tort damages creditors may become a serious problem, in light of the possibility of the manipulation of AI by the entities behind, high risk-seeking behavior in commercial cases, and the discussion of so-called risk liability. Especially in the commercial case, due to the entities behind the corporation such as conventional shareholders, ‘AI corporation’ operating entirely on the basis of AI’s autonomy would not be practical. Thus, in the perspective of cost-benefit analysis, a more careful approach on granting AI legal personality is necessary. AI legal personality can be introduced under strict conditions: ① the specification of AI; ② strong AI (general AI); ③ completeness of decision-making structure; and ④ non-profitability, self-sufficiency based on sufficient liability property, and comprehensive disclosure - as a means of controlling the possibility of abuse.

참고문헌 (56)

  1. 곽윤직, "민법총칙" (2013), 박영사
  2. 고학수, "인공지능 원론: 설명가능성을 중심으로" (2021), 박영사
  3. 김건식, "회사법" (2022), 박영사
  4. 박세일, "법경제학" (2019), 박영사
  5. 박준, "금융거래와 법" (2022), 박영사
  6. 송덕수, "민법총칙" (2021), 박영사
  7. 송옥렬, "상법강의" (2020), 홍문사
  8. 양창수, "권리의 보전과 담보" (2018), 박영사
  9. 이시윤, "신민사소송법" (2017), 박영사
  10. "주석 민법(채권각칙 6)" (2022), 한국사법행정학회
  11. "주석 민법(총칙 1)" (2019), 한국사법행정학회
  12. 한국인공지능법학회, "인공지능과 법" (2019), 박영사
  13. 권영준, "자율주행자동차 사고와 민사책임", 민사법학, 75, pp.449~496 (2016), 한국민사법학회
  14. 김재선, "인공지능 안전과 책임 확보를 위한 법제 논의에 관한 검토 — 유럽연합 인공지능 관리 법제 논의에 기초하여 —", 행정법연구, (64), pp.157~181 (2021), 행정법이론실무학회[DOI]
  15. 김주현, "AI 필터링과 설명가능 인공지능", Law & Technology, 16(3) (2020), 서울대학교 기술과법센터
  16. 김진우, "인공지능에 대한 전자인 제도 도입의 필요성과 실현방안에 관한 고찰", 저스티스, 171, pp.5~48 (2019), 한국법학원[DOI]
  17. 노혁준, "증권 불공정거래의 새로운 양태와 대응 ― 고빈도거래(HFT)를 중심으로 ―", 법학연구, 31(1), pp.69~117 (2021), 법학연구원[DOI]
  18. 박상철, "금융AI의 활용과 금융소비자 보호 : 차별금지, 설명요구권, 6대 판매규제 준수를 중심으로", BFL, (107) (2021), 서울대학교 금융법센터
  19. 박준석, "4차 산업혁명에 대응한 우리 지적재산권법 관련 쟁점들의 통합적 분석", 정보법학, 21(3), pp.161~215 (2017), 한국정보법학회
  20. 방정미, "인공지능 알고리듬 규제거버넌스의 전환 ― 최근 미국의 알고리듬 규제와 인공지능 윤리원칙을 중심으로 ―", 공법연구, 49(3), pp.375~406 (2021), 한국공법학회[DOI]
  21. 송옥렬, "인공지능과 이사회", 기업법연구, 35(2), pp.91~115 (2021), 한국기업법학회
  22. 송호영, "인공지능 로봇은 법인격을 가질 수 있는가?", 저스티스, 184, pp.83~113 (2021), 한국법학원[DOI]
  23. 신성필, "인공지능 기술 국제 표준화 동향 분석", 정보와 통신, 38(5) (2021), 한국통신학회
  24. 신현탁, "인공지능(AI)의 법인격 – 전자인격(Electronic Person) 개념에 관한 소고 -", 인권과 정의, (478), pp.45~64 (2018), 대한변호사협회[DOI]
  25. 안수현, "Automated Investment Tool(일명 ‘로보어드바이저’)을 둘러싼 법적 쟁점과 과제", 상사판례연구, 29(2), pp.165~216 (2016), 한국상사판례학회[DOI]
  26. 안수현, "지능형 인공지능(AI)의 발전에 따른 자본시장법제 정비방향과 과제", 증권법연구, 18(3), pp.137~176 (2017), 한국증권법학회[DOI]
  27. 양희철, "인공지능(AI)로봇의 법적 지위 고찰 ㅡ인공지능 로봇의 인격과 법적 책임 귀속", 석사, pp.2020
  28. 이상용, "인공지능과 계약법 - 인공 에이전트에 의한 계약과 사적자치의 원칙 -", 비교사법, 23(4), pp.1639~1700 (2016), 한국사법학회[DOI]
  29. 이성웅, "상법상 인공지능기업의 상사적격에 관한 소고", 법조, 67(2), pp.251~285 (2018), 법조협회[DOI]
  30. 이재호, "설명 가능한 인공지능 표준화 동향", 전자공학회지, 48(9) (2021), 대한전자공학회
  31. 이충훈, "인공지능(Artificial Intelligence)을 이용한 의사표시의 주체", 법학연구, 30(1), pp.285~317 (2020), 법학연구원[DOI]
  32. 이한슬, "인공지능 윤리에서 해명가능성 원리", 人文學硏究, 35, pp.37~63 (2021), 인문학연구소[DOI]
  33. 장보은, "인공지능의 발전과 계약 - 계약법의 역할을 중심으로 -", 저스티스, 183, pp.117~147 (2021), 한국법학원[DOI]
  34. 정준혁, "ESG와 회사법의 과제", 상사법연구, 40(2), pp.13~81 (2021), 한국상사법학회
  35. 최문희, "인공지능(Artificial Intelligence)과 회사법의 접점 - 인공지능의 활용에 수반되는 회사법적 논점 -", 상사법연구, 39(1), pp.1~53 (2020), 한국상사법학회
  36. 황용석, "알고리듬 기반 자동화된 의사결정의 설명 가능성에 대한 연구", 언론정보연구, 57(3), pp.41~80 (2020), 언론정보연구소[DOI]
  37. Stuart Russell, "Artificial Intelligence ㅡA Modern Approach" (2022), Pearson
  38. Woodrow Barfield, "Law and Artificial Intelligence" (2020), Edward Elgar
  39. Allen, T., "Can Computers Make Contracts?", Harvard Journal of Law and Technology, 9, pp.25~ (1996)
  40. Bryant Smith, "Legal Personality", Yale Law Journal, 37(3) (1928)
  41. The AI Index 2022 Annual Report, "Daniel Zhang", AI Index Steering Committee, Stanford Institute for Human-Centered AI, Stanford University, ~ (2022)
  42. Joanna J. Bryson, "Of, for, and by The People: The Legal Lacuna of Synthetic Persons", Artificial Intelligence and Law, 25 (2017)
  43. John Dewey, "The Historic Background of Corporate Legal Personality", Yale Law Journal, 35(6) (1926)
  44. John R. Searle, "Minds, Brains, and Programs", Behavioral and Brain Sciences, 3(3) (1980)
  45. Lawrence B. Solum, "Legal Persoonhood for Artificial Intelligences", North Carolina Law Review, 70(4) (1992)
  46. Matthew U. Scherer, "Regulating Artificial Intelligence Systems : Risks, Challenges, Competencies and Strategies", Harvard Journal of Law and Technology, 29(2) (2016)
  47. Omri Rachum-Twaig, "Whose Robot Is It Anyway? : Liability for Artificial-Intelligence-Based Robots", University of Illinois Law Review, 2020(4) (2020)
  48. Sandra Wachter, "Counterfactual Explanations without Opening the Black Box : Automated Decisions and the GDPR", Harvard Journal of Law and Technology, 31, pp.841~ (2017)
  49. Shawn Bayern, "The Implications of Modern Business-Entity Law for the Regulation of Autonomous Systems", Stanford Technology Law Review, 19, pp.93~ (2015)
  50. Simon Chesterman, "Artificial Intelligence and the Limits of Legal Personality", The International and Comparative Law Quarterly, 69(4) (2020), Cambridge University Press
  51. 관계부처 합동, "인공지능 법·제도·규제 정비 로드맵", ~ (2020)
  52. 관계부처 합동, "인공지능(AI) 윤리기준", ~ (2020)
  53. 금융위원회, "금융분야 인공지능(AI) 가이드라인이 시행됩니다", 금융위원회·금융감독원 보도자료, ~ (2021)
  54. Artificial Intelligence: Background, Selected Issues, and Policy Considerations, "Congressional Research Report", ~ (2021)
  55. "Explainable Artificial Intelligence(XAI)"[URL]
  56. Civil Law Rules on Robotics, "European Parliament", ~, pp.P8_TA(2017)0051

관련 논문AI추천

인공지능과 법인격 - 불법행위책임의 관점에서 -이해원사단법인 법조협회 · 법조2021 · 제70권 제4호인공지능 기술에 있어서 법인격 부여와 책임론이수경한국재산법학회 · 재산법연구2022 · 제39권 제1호인공지능(AI)의 법인격 부여와 위법 행위 책임에 관한 연구김용호한국컴퓨터정보학회 · 한국컴퓨터정보학회논문지2024 · 제29권 제12호인공지능에 대한 법인격 부여 필요성김성호법학연구원 · 법학논총2020 · 제37권 제3호인공지능(AI)의 법인격 – 전자인격(Electronic Person) 개념에 관한 소고 -신현탁대한변호사협회 · 인권과 정의2018 · 제478호인공지능과 법인격 인정이성진민사법의 이론과 실무학회 · 민사법의 이론과 실무2020 · 제23권 제3호

이 간행물의 다른 논문 (18건)

결과적 가중범의 불법비례적인 양형기준 정립김혜경pp. 3-42전과와 양형박용철pp. 43-63공소제기되지 않은 범죄사실을 핵심적 양형조건으로 삼은 양형의 위법성 - 대상판결: 대법원 2020. 9. 3. 선고 2020도8358 판결이도행pp. 65-96민법의 기초자 가인 김병로김재형pp. 99-155사해행위취소 및 원상회복의 효력 - 채권자들의 권리구제를 중심으로송방아pp. 157-202
원문 보기