본문 바로가기
KERD
논문KCI 등재

인공지능에 의한 의사결정의 법적 문제

Legal Issues of decision-making by Artificial Intelligence

정진명
한국경영법률학회 (The Korean Academic Society Of Business Administration And Law)|2021.01|경영법률 (Journal of Business Administration & Law)|제31권 제2호|pp. 35-75

0

조회

0

다운로드

1

인용

0

참고문헌

키워드

인공지능인식recognitionartificial intelligence인공지능 자율성알고리즘 담합인식가능성인식의 귀속인식의 합산인식대리인인식책임artificial intelligence autonomyalgorithm collusionrecognizabilityattribution of recognitionsummation of recognitionrecognition agentrecognition responsibility
주제분류법학

초록

오늘날 인공지능의 사회·경제적 활용분야가 확대되고, 인공지능에 대한 기대가 높아지면서 인공지능의 자율성에 대한 논의가 활발히 진행되고 있다. 그 이유는 인공지능이 물리적 행위뿐만 아니라 인간의 전유물로 여겨온 인지적 영역에도 관여하게 되었기 때문입니다. 인공지능은 자신에게 설정된 상황의 범위 내에서 외부의 환경을 자율적으로 분석하고 대응하며, 인간은 그 결과를 선택적으로 수용할 수 있다. 이러한 인간 행위자와 인공지능의 병행화는 이른바 '분업사회'의 핵심 요소이며, 분업은 인간 사이의 의사결정과 행동뿐만 아니라 일정한 자율성을 지닌 인공지능의 참여로 그 양태가 더욱 다양하고 첨예화되고 있다. 분업사회에서 자율성과 준인지적 능력을 갖춘 인공지능의 행위는 적어도 잠재적으로는 그 뒤에 있는 인간 행위자에 귀속된다. 그러나 인공지능의 행위는 고유의 복잡성으로 인해 인간의 의사결정과 크게 다른 결과를 도출할 수 있다. 이 경우 인공지능의 행위는 인간의 의사결정 측면에서 인간의 자율성을 보완하거나 강화하는 대신 인간의 자율성을 침해하거나 왜곡할 수 있다. 따라서 민법상 인식의 귀속에 대한 법적 교리가 인공지능에 어느 정도까지 적용될 수 있는지, 이 경우 귀속의 대상인 인식은 무엇인지에 대한 검토가 필요하다. 이 연구에서는 인공지능의 자율성 개념과 법적 의미의 인식에 대해서 살펴보고, 이를 바탕으로 인공지능의 사용이 인간의 의사결정에 어떠한 영향을 미치는지에 관한 법적 문제를 검토해 보았다.

Abstract

Today, as the social and economic application areas of artificial intelligence expand and expectations for artificial intelligence increase, discussions on the autonomy of artificial intelligence are actively progressing. The reason is that artificial intelligence has come to be involved in not only physical actions, but also cognitive domains that have been considered exclusively for humans. Artificial intelligence autonomously analyzes and responds to the external environment within the range of situations set by him, and humans can selectively accept the results. Such parallelization of human actors and artificial intelligence is a key element of a so-called “division society,” and division of labor is sharpening not only between humans but also by the part- icipation of autonomous artificial intelligence in the free market economy. In a division of labor society, the actions of artificial intelligence with autonomy and quasi-cognitive capabilities are at least potentially attributed to the human actors behind them. However, the actions of artificial intelligence can produce results that are significantly different from human decision-making methods due to their inherent complexity. In this case, the actions of artificial intelligence may infringe or distort human autonomy instead of supplementing or enhancing human autonomy in human decision-making. Therefore, in order to apply the legal doctrine on the attribution of civil law perception to artificial intelligence, to what extent the norm of attribution of civil law can be applied to artificial intelligence, to what extent it belongs, and to what extent considering the characteristics of artificial intelligence. It is necessary to review whether adjustment of the norm is necessary. In this paper, the concept of autonomy of artificial intelligence and the recognition of the legal meaning will be examined, and based on this, the legal problems arising from human decision-making according to the use of artificial intelligence will be examined.

참고문헌 (42)

  1. 곽윤직, "민법총칙" (2013)
  2. 김건우, "법적 주체로서 자율적 인공지능 로봇 I: 의의와 관점", 성균관법학, 30(2), pp.215~238 (2018), 법학연구원[DOI]
  3. 김경석, "자율주행자동차의 운전자 개념에 대한 소고― 인공지능에 대한 법인격부여에 관한 논의를 중심으로 ―", 법학논총, 38(4), pp.189~212 (2018), 법학연구소[DOI]
  4. 김도훈, "알고리즘 담합의 연구 동향과 전망", 주간기술동향, ~ (2020)
  5. 김윤명, "人工知能(로봇)의 법적 쟁점에 대한 試論的 考察", 정보법학, 20(1), pp.141~176 (2016), 한국정보법학회
  6. 김진우, "인공지능에 대한 전자인 제도 도입의 필요성과 실현방안에 관한 고찰", 저스티스, 171, pp.5~48 (2019), 한국법학원[DOI]
  7. 박도현, "인공지능과 자율성의 역학관계", 홍익법학, 20(3), pp.501~538 (2019), 법학연구소[DOI]
  8. 박해선, "스마트사회와 민사책임", 법학논총, 23(2), pp.263~299 (2016), 법학연구원[DOI]
  9. 서완석, "인공지능에 의한 소비자권익 침해에 관한 유형과 법적 과제", 상사법연구, 37(1), pp.317~375 (2018), 한국상사법학회[DOI]
  10. 송호영, "이른바 인식의 귀속(Wissenszurechnung)에 관하여", 비교사법, 8(1) (2001)
  11. 신상규, "인공지능은 자율적 도덕행위자일 수 있는가?", 철학, (132), pp.265~292 (2017), 한국철학회[DOI]
  12. 신현탁, "인공지능(AI)의 법인격 – 전자인격(Electronic Person) 개념에 관한 소고 -", 인권과 정의, (478), pp.45~64 (2018), 대한변호사협회[DOI]
  13. 양종모, "인공지능의 위험의 특성과 법적 규제방안", 홍익법학, 17(4), pp.537~565 (2016), 법학연구소[DOI]
  14. 오병철, "인공지능 로봇에 의한 손해의 불법행위책임", 법학연구, 27(4), pp.157~231 (2017), 법학연구원[DOI]
  15. 이상용, "인공지능과 법인격", 민사법학, 89, pp.3~49 (2019), 한국민사법학회[DOI]
  16. 이병준, "법인에 있어서의 인식의 귀속과 인식의 책임 - 대표권남용시 인식귀속 부정여부와 저장된 정보에 대한 인식책임을 중심으로 -", 외법논집, 35(2), pp.103~122 (2011), 법학연구소[DOI]
  17. 이중기, "법인에서의 ‘인식의 귀속’과 이익충돌의 인식: 거대 회사에서의 ‘정보차단장치’의 효력을 중심으로", 서울대학교 법학, 55(4), pp.421~472 (2014), 법학연구소
  18. 이중기, "인공지능을 가진 로봇의 법적 취급 : 자율주행자동차 사고의 법적 인식과 책임을 중심으로", 홍익법학, 17(3), pp.1~27 (2016), 법학연구소[DOI]
  19. 정신동, "인식 귀속의 법률상 기본규범으로서 민법 제116조 제1항에 대한 연구", 민사법학, 83, pp.3~35 (2018), 한국민사법학회
  20. 정진명, "인공지능에 대한 민사책임 법리", 재산법연구, 34(4), pp.137~168 (2018), 한국재산법학회[DOI]
  21. 정진명, "인공지능의 표시에 대한 고찰", 비교사법, 26(1), pp.1~40 (2019), 한국사법학회[DOI]
  22. 한희원, "인공지능(AI)의 법인격 주체성의 논리적 기틀에 대한 기초 연구", 중앙법학, 20(3), pp.375~412 (2018), 중앙법학회[DOI]
  23. Baum, "Die Wissenszurechnung" (1999)
  24. Boher, "Anmerkung zu BGH v. 8. 12. 1989, BGHZ 109, 327", DNotZ (1991)
  25. Borges, "Rechtliche Rahmenbedingungen für autonome Systeme", NJW (2018)
  26. Buck, "Wissen und juristische Person: Wissenszurechnung und Heraus- bildung zivilrechtlicher Organizationspflichten" (2001)
  27. Cornelius, "Vertragsschluss durch elektronische Agenten", MMR (2002)
  28. Grigoleit, "Zivilrechtliche Grundlagen der Wissenszurechnung", ZHR, 181 (2017)
  29. Günther, "Roboter und rechtliche Verantwortung" (2014)
  30. Hacker, "Verhaltens- und Wissenszurechnung beim Einsatz von Künstlicher Intelligenz", Rechtswissenschaft, 9 (2018)
  31. John, "Haftung für künstliche Intelligenz" (2007)
  32. Medicus, "Allgemeiner Teil des BGB" (1994)
  33. Medicus, "Probleme der Wissenszurechnung", Karlsruher Forum (1994)
  34. Scherer, "Regulating Artificial Intelligence Systems: Risks, Challengers, Competencies, and Strategies", Harv. J.L. & Tech, 29, pp.353~ (2016)
  35. Pieper, "Recht 4.0" (2016)
  36. Schwab, "Wissenszurechnung in arbeitsteiligen Organisationen", JuS, pp.481~ (2017)
  37. Schirmer, "Rechtsfähige Roboter?", JZ (2016)
  38. Singer, "Das Verbot widersprüchlichen Verhaltens" (1993)
  39. Spindler, "Roboter, Automation, künstliche Intelligenz, selbststeuernde Kfz – Braucht das Recht neue Haftungskategorien?", CR (2015)
  40. Taupitz, "Wissenzurechnug nach englischem und deutschem Recht", Karlsruhe Form (1994)
  41. Wagner, "Wissenszurechnung: Rechtsvergleichende und rechtsökonomi- sche Grundlagen", ZHR, 181 (2017)
  42. MüKoBGB, "BGB § 166" (2018)

관련 논문AI추천

인공지능에 대한 법인격 부여 필요성김성호법학연구원 · 법학논총2020 · 제37권 제3호인공지능과 자율성의 역학관계박도현법학연구소 · 홍익법학2019 · 제20권 제3호인공지능(AI)의 법인격 부여와 위법 행위 책임에 관한 연구김용호한국컴퓨터정보학회 · 한국컴퓨터정보학회논문지2024 · 제29권 제12호인공지능 시대의 계약자유 원칙과 법적용상의 문제점황원재법학연구원 · 법학논총2020 · 제27권 제1호법규범에서 인공지능의 주체성 여부계승균사단법인 법조협회 · 법조2017 · 제66권 제4호인공지능을 이용한 행위에 대한 법적인 평가 - 사법(私法)상 논의를 위한 시론(試論 또는 始論) -장보은법학연구소 · 외법논집2019 · 제43권 제4호

이 간행물의 다른 논문 (15건)

인공지능에 의한 계약체결과 계약법이론 - 인공지능을 활용한 자율적 시스템에 대한 대리법의 적용 가능성을 중심으로 -이병준pp. 1-33플랫폼 사업자의 개인정보 수집에 대한 경쟁법 적용문제 –Facebook 사건에 대한 독일 고등법원 결정을 중심으로–심재한pp. 77-111이사의 의무위반과 경영판단원칙에 관한 미국의 판례법리 연구신현탁pp. 113-150개정 상법상의 감사위원 분리선임 제도 도입의 의미와 과제정병덕pp. 151-178회사 분할에 관한 법적 연구 – 기업가치에 대한 이해관계를 중심으로–김은수pp. 179-206
원문 보기