본문 바로가기
KERD
논문KCI 등재

인공지능과 계약법 - 인공 에이전트에 의한 계약과 사적자치의 원칙 -

Artificial Intelligence and Contract Law : Conclusion of Contract by Artificial Agent and Principle of Private Autonomy

이상용
한국사법학회 (The Korean Association of Private Law)|2016.11|비교사법 (The Journal of Comparative Private Law)|제23권 제4호|pp. 1639-1700|DOI 10.22922/jcpl.23.4.201611.1639

1

조회

0

다운로드

64

인용

0

참고문헌

키워드

인공지능신의성실의 원칙표현대리good faithA.I.사적자치의 원칙인공 에이전트private autonomyapparent authority전자대리인artificial agentelectronic agent
주제분류법학

초록

최근 급속히 이루어지고 있는 인공지능 기술의 발전은 계약법 분야에 커다란 충격을 가져오고 있다. 인간의 정신과 구별할 수 없는 이른바 강인공지능(strong A.I.)이 개발될 경우 생길 수 있는 근본적인 문제를 논외로 하더라도, 현재의 약인공지능(weak A.I.) 단계에서도 수많은 난제들이 발생한다. 이 문제들은 인공지능이 갖는 자율성과 특정 영역에서 인간을 넘어서는 합리성에서 비롯된다. 이러한 특성은 계약법 분야에서, 특히 인공 에이전트에 의한 계약체결의 사안에서 가장 명확하게 드러난다. 인공 에이전트에 의하여 계약이 체결되는 경우 인공지능의 자율성으로 인하여 경우에 따라 이용자가 의도하지 않았거나 이용자의 의도에 반하는 결과가 생길 수 있다. 따라서 이러한 인공지능의 자율성에도 불구하고 이용자에게 책임을 귀속시킬 수 있는 법적 근거가 설명될 필요가 있다. 또한 책임 귀속의 근거가 밝혀진 뒤에도 당사자들의 이해 조정의 문제가 남는다. 이용자의 의도에 반하는 법률행위가 이루어진 경우 그로 인한 위험은 당사자들 사이에 적절히 배분되어야 하는데, 이와 관련하여 정당한 위험 배분기준은 무엇인지 그리고 이를 위하여 활용될 수 있는 법제도는 무엇인지 문제되는 것이다. 본고는 인공지능의 자율성에도 불구하고 그에 의한 계약의 정당성 근거로서 사적자치의 원칙이 견지될 수 있다는 점과 표현대리의 유추적용을 통하여 적정한 위험배분이 이루어질 수 있음을 보여주고자 하였다. 한편 인공지능은 특정 영역에서 인간을 넘어서는 합리성을 지닌다. 이러한 현상은 오래 전부터 우리 생활의 곳곳에서 찾아볼 수 있었으나, 최근 들어 인공지능의 자율성과 결합하여 계약법 영역에서 ‘합리성 격차’라는 비대칭성의 문제를 새롭게 제기하고 있다. 발전된 인공지능 기술을 이용하여 계약을 체결하는 사람과 그렇지 않은 사람 사이에 구조적인 불균형이 자리잡게 되는 것이다. 이는 인공지능 이용자의 상대방 보호를 위한 법적 장치에 대한 연구 필요성을 촉발한다. 본고는 철회권의 확대와 신의성실의 원칙을 인공 에이전트에 내재화하는 것을 통하여 이 문제를 해결할 수 있음을 논증하려 하였다. 인공지능의 자율성과 합리적 격차라는 비대칭성의 문제는 사적자치의 원칙에 대한 도전이라는 관점에서 해석될 수 있다. 계약법과 관련하여 인공지능 기술의 발전은 인공지능 이용자의 의도에 반하는 결과에 대하여 이용자가 책임을 부담하는 것이 자기결정권에 반하는 것은 아닌지, 그리고 인공 에이전트 이용자와 거래하는 상대방의 자기결정권은 합리성 격차로 인하여 사실상 형해화되는 것은 아닌지 하는 의문을 낳는다. 이러한 의문들은 근대법의 기본원리인 사적자치의 원칙이 인공지능의 시대에도 여전히 유효할 것인지 여부와, 그 원리적 힘이 유지되려면 어떠한 보완장치가 필요한지에 관한 질문으로 다시 진술될 수 있다. 본 연구는 이러한 질문에 답하는 것을 목표로 한다.

Abstract

The rapid development of A.I. technology impacts greatly on law of contract. Beside the fundamental issues which could arise if so-called ‘strong A.I.’ comes into existence, there are many difficult issues even in the present phase of ‘weak A.I.’ These issues arise from the autonomous feature of A.I. and super-rationality of A.I. in certain areas. These features stand out most in the contract formation cases by artificial agents. When contracts are concluded by artificial agents, the autonomous feature of A.I. could bring out such results that were not intended or even opposed by users of them. This precipitates the need for legal explanation for attributing the liability to the users. There is also the issue of adjustment of conflicting interests of the parties. When legal acts are conducted which are opposed by the users, the resulting risk should be appropriately apportioned between parties. So it should be examined what the adequate criterion of risk apportionment is and what kind of legal princple could be resorted to for this purpose. This paper tried to demonstrate that the good old principle of private autonomy could hold fast as the basis for justification of contracts by artificial intelligence and that appropriate risk apportionment could be achieved by analogy of the apparent agency authority. A.I. features rationality that surpasses that of human in some areas. These phenomena have long been around us, but raise new problem of asymmetry, which is ‘rationality gap’ in the area of law of contract as a result of combination with the autonomous feature of A.I. There is structural asymmetry between people who use advanced A.I. for contract and people who don’t. This prompt the need for the study of legal apparatus for the protection of the counterpart of the A.I. user. This paper attempted to show that the expansion of right of withdrawal and internalization of the principle of good faith into artificial agents could help solve this problem. The problem of autonomous feature of A.I. and rationality gap could be interpreted as challenge to the principle of private autonomy. The development of A.I. technology concerning law of contract raises questions whether the fact that artificial agent user is liable for the result which does not correspond to his intention infringes his self-determination, and whether the self- determination of the other party who transacts with artificial agent user reduces to emptiness. These questions can be rephrased into the question whether the principle of private autonomy can remain valid in the age of A.I. and what kind of complementary measures are needed for its doctrinal power to be maintained. This paper aims at answering properly to these questions.

참고문헌 (69)

  1. 곽윤직, "민법총칙" (2007), 박영사
  2. 김주수, "민법총칙" (2011), 삼영사
  3. 김형배, "민법학강의" (2015), 신조사
  4. 명순구, "민법총칙" (2005), 법문사
  5. 오병철, "전자거래법" (2000), 법원사
  6. 오세창, "전자통신협약의 해설 : CUEICIC에 관한 explanatory note를 중심으로" (2009), 두남
  7. 전자계약의 현안과 과제 – UN 전자계약협약을 중심으로, "왕상한", 법무부, ~ (2008)
  8. 이영준, "민법총칙" (2007), 박영사
  9. 가상공간에서의 거래의 계약법적 규율에 관한 연구, "지원림", 한국법제연구원, ~ (2001)
  10. 지원림, "민법강의" (2015), 홍문사
  11. 곽윤직, (1992), 박영사
  12. 곽윤직, (1992), 박영사
  13. Amos Tversky, "불확실한 상황에서의 판단 : 추단법과 편향" (2001), 아카넷
  14. 권영준, "계약법의 사상적 기초와 그 시사점 - 자율과 후견의 관점에서 -", 저스티스, (124), pp.169~203 (2011), 한국법학원
  15. 권영준, "자율주행자동차 사고와 민사책임", 민사법학, 75, pp.449~496 (2016), 한국민사법학회
  16. 김두원, "자율주행자동차 관리 및 교통사고에 대한 형사책임", 法學論文集, 39(3), pp.239~269 (2015), 법학연구원
  17. 김영국, "자율주행 자동차의 운행 중 사고와 보험적용의 법적 쟁점", 법이론실무연구, 3(2), pp.247~280 (2015), 사단법인 한국법이론실무학회
  18. 김상용, "자동화된 의사표시와 시스템계약", 사법연구, 1 (1992), 청헌법률문화재단
  19. 김용진, "사실행위를 위한 사자와 표현대리", 법조, 12(4) (1962)
  20. 김재형, "전자거래기본법에 관한 개정논의 -사법적 측면을 중심으로-", 서울대학교 법학, 42(4) (2001)
  21. 류병운, "드론과 로봇 등 자율무기의 국제법적 적법성", 홍익법학, 17(2), pp.61~80 (2016), 법학연구소[DOI]
  22. 김현철, "전자문서 및 전자거래 기본법의 쟁점과 과제", 법학연구, 15(2), pp.293~322 (2012), 법학연구소[DOI]
  23. 백경일, "소비자보호법의 존재의의 및 효용성에 대한 비판적 고찰 - 소비자보호법의 규범적 정당성과 경제적 실효성에 대한 분석 -", 법학연구, 49(2), pp.247~292 (2009), 법학연구소
  24. 서희석, "전자거래에서의 착오의 문제 서설", 재산법연구, 24(2), pp.1~38 (2007), 한국재산법학회
  25. 서희석, "소비자법 민법전편입의 이론적 근거와 방향성 - 실질적 사적자치론 · 소비자계약론의 관점에서 -", 재산법연구, 27(2), pp.259~294 (2010), 한국재산법학회
  26. 안상희, "제4차 산업혁명이 일자리에 미치는 영향", 통합학술발표논문집, (8) (2016), 한국경영학회
  27. 양종모, "인공지능을 이용한 법률전문가 시스템의 동향 및 구상", 법학연구, 19(2), pp.213~242 (2016), 법학연구소
  28. 양종모, "형사사법절차 전자화와 빅 데이터를 이용한 양형합리화 방안 모색", 홍익법학, 17(1), pp.419~448 (2016), 법학연구소[DOI]
  29. 오병철, "전자적 의사표시에 관한 연구", 박사, pp.1997
  30. 오병철, "UNCITRAL 전자계약협약에 관한 비교법적 고찰과 전자거래기본법에의 영향", 비교사법, 13(4), pp.83~132 (2006), 한국비교사법학회
  31. 우광명, "전자상거래에서 전자대리인의법적 문제점과 개선방안", 통상정보연구, 13(1), pp.197~216 (2011), 한국통상정보학회
  32. 유승익, "인공지능의 추론방식을 활용한 법적 논증 - 폐기가능성, 비단조논리, 형량 -", 원광법학, 32(2), pp.299~323 (2016), 법학연구소
  33. 윤지웅, "인터넷 환경하에서 지능형 에이전트 현황 및 전망", 정보통신정책, 10(20) (1998)
  34. 이성희, "영미법에서의 외관적 권한법리와 우리 민법 제125조의 적용요건에 관한 검토", 민사법학, 58, pp.3~34 (2012), 한국민사법학회
  35. 이승선, "인공지능 저작권 문제와 각국의 대응", 관훈저널, (139) (2016)
  36. 이재현, "인공지능에 관한 비판적 스케치", 마르크스주의 연구, 13(3), pp.12~43 (2016), 사회과학연구원
  37. 정경영, "전자의사표시의 주체에 관한 연구", 비교사법, 5(2) (1998)
  38. 정경영, "미국 통일전자거래법(Uniform Electronic Transaction Act:UETA)에 관한 연구", 상사법연구, 19(2) (2000)
  39. 정완용, "전자문서 및 전자거래기본법의 개정방안에 관한 고찰", 경희법학, 48(4), pp.631~672 (2013), 법학연구소
  40. 정진명, "UNCITRAL 전자계약협약의 국내법에의 수용", 비교사법, 16(2), pp.41~90 (2009), 한국비교사법학회
  41. 주강원, "온라인분쟁해결절차에서의 인공지능의 활용과 법적 함의", 홍익법학, 17(2), pp.81~103 (2016), 법학연구소[DOI]
  42. 지원림, "자동화된 의사표시", 저스티스, 31(3) (1998)
  43. 최경진, "UN전자계약협약에 관한 연구", 중앙법학, 11(4), pp.131~173 (2009), 중앙법학회
  44. 에이전트 기반 전자상거래환경에서의 자동협상시스템 개발, "최형림", 한국연구재단, ~ (2005)
  45. 한웅길, "전자거래와 계약법", 비교사법, 5(2) (1998)
  46. 황창근, "자율주행자동차 운행을 위한 행정규제 개선의 시론적 고찰 - 자동차, 운전자, 도로를 중심으로 -", 홍익법학, 17(2), pp.27~59 (2016), 법학연구소[DOI]
  47. Baer, "Are we free? Psychology and free will" (2008), Oxford Universty Press
  48. Bostrom, "Superintelligence: Paths, Dangers, Strategies" (2014), Oxford University Press
  49. Kurzweil, "How to Create a Mind: The Secret of Human Thought Revealed" (2012), Penguin Books
  50. Russell, "Artificial Intelligence: A Modern Approach" (2013), Prentice Hall Press
  51. Schulze, "European Contract Law" (2016), C.H. Beck
  52. "Halsbury’s Laws of England" (2005), LexisNexis Butterworths
  53. UNCITRAL Model Law on Electronic Commerce with Guide to Enactment 1996 with additional article 5 bis as adopted in 1998, "UN", United Nations Publication, ~, pp.Sales No. E.99 V.4 (1999)
  54. United Nations Convention on the Use of Electronic Communications in International Contracts, "UN", United Nations, ~, pp.Publication Sales No. E.07. V.2 (2007)
  55. Allen, "Can Computers Make Contracts?", HARV. J.L. & TECH, 9 (1996)
  56. Bain, "Legalising Autonomous Shopping Agent Processes", COMPUTER L. & SECURITY REP, 19(5) (2003)
  57. Chopra, "Artificial Agents and the Contracting Problem: A Solution via an Agency Analysis", University of Illinois Journal of Law, Technology & Policy (2009)
  58. Fischer, "Computers as agents: a proposed approach to revised UCC Article 2", Ind. LJ, 72 (1996)
  59. Hassabis, "Mastering the game of Go with deep neural networks and tree search", Nature, 529(7587) (2016)
  60. Kerr, "Ensuring the Success of Contract Formation in Agent-Mediated Electronic Commerce", ELECTRONIC COM. RES, 1 (2001)
  61. Lerouge, "The Use of Electronic Agents Questioned Under Contractual Law: Suggested Solutions on a European and American Level", J. MARSHALL J. COMPUTER & INFO. L, 18(2) (2000)
  62. Mann, "Just One Click: The Reality of Internet Retail Contracting", COLUM. L. REV, 108 (2008)
  63. Powers, "Prospects for a Kantian machine", Intelligent Systems, 21(4) (2006)
  64. Rasmusen, "Agency Law and Contract Formation", AM. L. & ECON. REV, 6 (2004)
  65. Searle, "Minds, brains, and programs", Behavioral and Brain Sciences, 3(03) (1980)
  66. Smith, Chris, "The History of Artificial Intelligence", History of Computing CSEP, 590A (2006), University of Washington
  67. Song Daegene, "Non-Computability of Consciousness", arXiv Prepr. arXiv0705.1617, ~ (2007)
  68. Wallach, "Machine Morality: Bottom-up and Top-down Approaches for Modelling Human Moral Faculties", AI & Society, 22 (2008)
  69. Weitzenböck, "Electronic Agents and the Formation of Contracts", INT‘L J. L. & INFO. TECH, 9 (2001)

관련 논문AI추천

인공지능 시대의 계약자유 원칙과 법적용상의 문제점황원재법학연구원 · 법학논총2020 · 제27권 제1호인공지능계약과 계약자유 원칙의 실현강일법학연구소 · 가천법학2024 · 제17권 제4호인공지능에 의한 계약체결과 계약법이론 - 인공지능을 활용한 자율적 시스템에 대한 대리법의 적용 가능성을 중심으로 -이병준한국경영법률학회 · 경영법률2021 · 제31권 제2호인공지능은 계약의‘도구’인가, 아니면‘대리인’인가? - AI가 제기하는 계약법적 쟁점에 대한 소고(小考) -이해원사단법인 법조협회 · 법조2025 · 제74권 제4호인공지능과 약관최경진한국사법학회 · 비교사법2021 · 제28권 제3호인공지능에 의한 계약의 효력김세준법학연구소 · 외법논집2019 · 제43권 제4호

이 간행물의 다른 논문 (11건)

공익법인의 지배구조 - 재단에서 자주적 의사형성이 가능한지 여부를 중심으로 -김진우pp. 1227-1266Ownership and Governance of Business Groups - Discussions in Germany and Europe -Jan Liederpp. 1271-1308주요국의 기업집단 소유지배구조에 대한 비교분석최준선pp. 1375-1410우리나라 집단분쟁조정제도의 현황과 과제서희석pp. 1439-1476영미법상 사기방지법에 대한 연혁적 고찰김영희pp. 1477-1544
원문 보기