본문 바로가기
KERD
논문KCI 등재

인공지능과 자율성의 역학관계

The Dynamics between Artificial Intelligence and Autonomy

박도현
법학연구소 (The Institute of Legal Studies Konkuk University)|2019.09|홍익법학 (Journal of hongik law review)|제20권 제3호|pp. 501-538|DOI 10.16960/jhlr.20.3.201909.501

1

조회

0

다운로드

14

인용

0

참고문헌

키워드

인공지능자율성거버넌스Artificial IntelligenceAutonomyGovernance제4차 산업혁명The Fourth Industrial Revolution사적자치의 원칙Private Autonomy인지적 비대칭성Asymmetric Cognition
주제분류법학

초록

오늘날 소위 제4차 산업혁명 시대에 돌입하면서, 인공지능은 물리적 차원을 넘어 인간의 전유물로 여겨져 온 인지적 차원까지도 자동화(automation)의 대상으로 탈바꿈시키고 있다. 나아가 인간의 통제를 최소화한 인공지능에 대해 모종의 자율성(autonomy)을 인정하자는 견해까지도 제기되고는 한다. ‘인공지능과 자율성’ 이슈는 일정한 자율성을 갖춘 인공지능에 대한 법적 평가와, 이와 별개로 인공지능이 인간의 자율성에 미치는 영향에 대한 법적 평가라는 두 가지 측면으로 대별된다. 이때 전자는 자율성 개념을 전통적으로 이해되어온 도덕적 차원의 자율성(moral autonomy)을 대신하여 기능적 차원의 현상적 자율성으로 이해하면서, 일정 수준 이상의 현상적 자율성을 보이는 인공지능에 대해 도덕적, 법적 지위를 인정할 수 있는가 하는 문제이다. 본고는 인공지능과 자율성 논의에서 진정 중요한 것은 ‘인간의 자율성’임을 분명히 하고, 현상적 자율성을 가진 인공지능에 대한 법인격 부여는 그와 같은 목적을 달성함에 있어 현실적으로도, 이론적으로도 필수적 요소가 아님을 보인다. 자율적 인공지능과 인간의 자율성이 공존하기 위해 진정으로 요구되는 것은 인공지능의 위험성을 적절한 수준에서 통제하는 동시에 인간의 사적자치를 과다하게 억제하지 않도록 조화하는 거버넌스(governance) 구조를 모색하는 일이다.

Abstract

Today, as we are into the era of the so-called 'Fourth Industrial Revolution', Artificial Intelligence(AI) is transforming not only the physical dimension but also the cognitive dimension which has been regarded as a human-inherent domain, as an object of automation. Furthermore, it is suggested that some kind of 'autonomy' is given to AI when minimizing human control. The 'AI and autonomy' issue is divided into two aspects: legal evaluation of AI with certain autonomy and legal evaluation of the effect of AI on human autonomy. The former position is to understand the concept of 'autonomy' as functional level 'phenomenal autonomy' instead of traditionally accepted 'moral autonomy'. And it gives some kind of moral and legal status of AI that shows a certain level of this kind of autonomy. But this paper clarifies that 'human autonomy' is indeed important in AI and autonomy discussions, and that it is not necessary to provide legal personhood to AI both practically and theoretically. What is really needed for (phenomenally) autonomous AI and human autonomy to coexist is to seek the concept of AI 'Governance' that controls the risk of AI at an appropriate level and doesn't suppress private autonomy.

참고문헌 (71)

  1. 곽윤직, "민법총칙" (2013), 박영사
  2. 이광근, "컴퓨터과학이 여는 세계" (2015), 인사이트
  3. 이병준, "현대 시민사회와 소비자계약법" (2013), 집문당
  4. 고인석, "인공지능이 자율성을 가진 존재일 수 있는가?", 철학, (133), pp.163~187 (2017), 한국철학회[DOI]
  5. 고학수, "서울대학교 인공지능정책 이니셔티브이슈페이퍼: 인공지능과 미래사회" (2019)
  6. 고학수, "인공지능과 차별", 저스티스, 171, pp.199~277 (2019), 한국법학원[DOI]
  7. 권영준, "계약법의 사상적 기초와 그 시사점 - 자율과 후견의 관점에서 -", 저스티스, (124), pp.169~203 (2011), 한국법학원
  8. 김건우, "법적 주체로서 자율적 인공지능 로봇 I: 의의와 관점", 성균관법학, 30(2), pp.215~238 (2018), 법학연구원[DOI]
  9. 김도균, "공동의사결정으로서의 거버넌스와 절차적 정의: 세 가지 모델", 국정관리연구, 4(2) (2009), 성균관대학교 국정관리대학원
  10. 김도균, "집합행동, 신뢰, 법- 공적 신뢰의 토대에 관한 고찰 -", 서울대학교 법학, 54(3), pp.543~599 (2013), 법학연구소
  11. 김동훈, "사적 자치의 원칙의 헌법적·민사법적 의의- 헌재 결정례와 대법원 판례의 비교·분석을 중심으로 -", 법학논총, 30(3), pp.41~85 (2018), 법학연구소[DOI]
  12. 김성돈, "전통적 형법이론에 대한 인공지능 기술의 도전", 형사법연구, 30(2), pp.81~116 (2018), 한국형사법학회
  13. 김영환, "로봇 형법(Strafrecht für Roboter)?", 법철학연구, 19(3), pp.143~168 (2016), 한국법철학회[DOI]
  14. 김진우, "인공지능에 대한 전자인 제도 도입의 필요성과 실현방안에 관한 고찰", 저스티스, 171, pp.5~48 (2019), 한국법학원[DOI]
  15. 김현철, "자기결정권에 대한 법철학적 고찰", 법학논집, 19(4), pp.357~372 (2015), 법학연구소
  16. 목광수, "인공지능 시대에 적합한 인격 개념 - 인정에 근거한 모델을 중심으로 -", 철학논총, 90(4), pp.187~211 (2017), 새한철학회
  17. 박상돈, "헌법상 자동의사결정 알고리즘 설명요구권에 관한 개괄적 고찰", 헌법학연구, 23(3), pp.185~218 (2017), 한국헌법학회
  18. 서완석, "인공지능에 의한 소비자권익 침해에 관한 유형과 법적 과제", 상사법연구, 37(1), pp.317~375 (2018), 한국상사법학회[DOI]
  19. 서희석, "소비자법 민법전편입의 이론적 근거와 방향성 - 실질적 사적자치론 · 소비자계약론의 관점에서 -", 재산법연구, 27(2), pp.259~294 (2010), 한국재산법학회
  20. 송승현, "인공지능과 도덕성", 법조, 67(6), pp.267~341 (2018), 법조협회[DOI]
  21. 신상규, "자율기술과 플로리디의 정보 윤리", 철학논집, 45, pp.269~296 (2016), 철학연구소[DOI]
  22. 신상규, "인공지능은 자율적 도덕행위자일 수 있는가?", 철학, (132), pp.265~292 (2017), 한국철학회[DOI]
  23. 신상규, "인공지능의 도덕적 지위와 관계론적 접근", 철학연구, 149, pp.243~273 (2019), 대한철학회[DOI]
  24. 양종모, "인공지능의 위험의 특성과 법적 규제방안", 홍익법학, 17(4), pp.537~565 (2016), 법학연구소[DOI]
  25. 양천수, "탈인간중심적 법학의 가능성 - 과학기술의 도전에 대한 행정법학의 대응 -", 행정법연구, (46), pp.1~24 (2016), 행정법이론실무학회
  26. 양천수, "인공지능과 법체계의 변화 ―형사사법을 예로 하여―", 법철학연구, 20(2), pp.45~76 (2017), 한국법철학회[DOI]
  27. 오병철, "인공지능 로봇에 의한 손해의 불법행위책임", 법학연구, 27(4), pp.157~231 (2017), 법학연구원[DOI]
  28. 오세혁, "해악원리, 법적 도덕주의, 그리고 후견주의 - 후견주의의 이중적 양면성 -", 중앙법학, 11(2), pp.341~369 (2009), 중앙법학회[DOI]
  29. 이부하, "위험사회에서 국민의 안전보호의무를 지는 보장국가의 역할 - 현행 안전법제에 관한 고찰을 겸하며 -", 서울대학교 법학, 56(1), pp.139~165 (2015), 법학연구소
  30. 이상용, "인공지능과 계약법 - 인공 에이전트에 의한 계약과 사적자치의 원칙 -", 비교사법, 23(4), pp.1639~1700 (2016), 한국사법학회[DOI]
  31. 이원우, "4차 산업혁명 시대의 기술혁신과 규제정책" (2019), 홍문사
  32. 이중기, "인공지능을 가진 로봇의 법적 취급 : 자율주행자동차 사고의 법적 인식과 책임을 중심으로", 홍익법학, 17(3), pp.1~27 (2016), 법학연구소[DOI]
  33. 이중원, "인공지능의 존재론" (2018), 한울아카데미
  34. 장영철, "기본권으로서 사적자치에 관한 고찰", 서울법학, 25(3), pp.1~43 (2017), 서울시립대학교 법학연구소[DOI]
  35. 정승준, "설명 가능한 인공지능 기술의 소개", 전자공학회지, 46(2) (2019), 대한전자공학회
  36. 정채연, "법패러다임 변화의 관점에서 인공지능과 법담론: 법에서 탈근대성의 수용과 발전", 법과사회, (53), pp.109~136 (2016), 법과사회이론학회
  37. 조홍식, "리스크 법 - 리스크관리체계로서의 환경법", 서울대학교 법학, 43(4) (2002), 서울대학교법학연구소
  38. 최봉철, "드워킨의 『법의 제국』", 법철학연구, 8(2), pp.345~376 (2005), 한국법철학회
  39. 하대권, "선택에 관여하는 인공지능이 사용자 평가에 미치는 영향", 한국심리학회지: 소비자·광고, 20(1), pp.55~84 (2019), 한국소비자·광고심리학회[DOI]
  40. 한국정보화진흥원, "글로벌 인공지능 연구의 4대 키워드와 시사점 -4대 키워드: 인간, 유용, 안전, 이해", IT & Future Strategy, (1) (2019)
  41. Barry Schwartz, "The Paradox of Choice: Why More Is Less" (2004), Ecco
  42. Cass R. Sunstein, "와이 넛지?" (2016), 열린책들
  43. Daniel Kahneman, "생각에 관한 생각" (2018), 김영사
  44. Joel Feinberg, "Harm to Others" (1984), Oxford University Press
  45. John Stuart Mill, "자유론" (2010), 펭귄클래식 코리아
  46. Louis P. Pojman, "윤리학: 옳고 그름의 발견" (2019), 울력
  47. Wendell Wallach, "왜 로봇의 도덕인가" (2014), 메디치미디어
  48. 松尾 豊, "인공지능과 딥러닝" (2015), 동아엠앤비
  49. Ariel Ezrachi․Maurice E. Stucke, "Artificial Intelligence & Collusion: When Computers Inhibit Competition", University of Illinois Law Review, 2017(5) (2017)
  50. Brent Mittelstadt, "Automation, Algorithms, and Politics: Auditing for Transparency in Content Personalization Systems", International Journal of Communication, 10 (2016)
  51. Catherine Tucker, "Privacy, Algorithms and Artificial Intelligence", Economics of Artificial Intelligence: An Agenda (2017)
  52. European Commission, "Ethics Guidelines for Trustworthy AI", ~ (2019)
  53. European Parliament, "European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015", 2103(INL)), 2017
  54. Gary Marchant, "“Soft Law” Governance of Artificial Intelligence" (2019), AI Pulse
  55. Gerald Dworkin, "Paternalism" (2017), Stanford Encyclopedia of Philosophy
  56. Helen Nissenbaum, "Accountability in a Computerized Society", Science and Engineering Ethics, 2(1) (1996)
  57. Ethically Aligned Design Version 2 - A Vision for Prioritizing Human Wellbeing with Autonomous and Intelligent Systems, "Institute of Electrical and Electronics Engineers", ~ (2017)
  58. James B. Speta, "4차 산업혁명 시대의 기술혁신과 규제정책" (2019), 홍문사
  59. James G. March, "Exploration and Exploitation in Organizational Learning", Organization Science, 2(1) (1991)
  60. James H. Moor, "The Nature, Importance, and Difficulty of Machine Ethics", IEEE Intelligent Systems, 21(4) (2006)
  61. John Christman, "Autonomy in Moral and Political Philosophy" (2015), Stanford Encyclopedia of Philosophy
  62. John McCarthy, "A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence", AI Magazine, 27(4) (2006)
  63. Jonathan Fox, "The uncertain relationship between transparency and accountability", Development in Practice, 17(4-5) (2007)
  64. Karen Yeung, "Hypernudge’: Big Data as a mode of regulation by design", Information, Communication & Society, 20(1) (2017)
  65. Maurice E. Stucke, "How Digital Assistants Can Harm our Economy, Privacy, and Democracy", Berkeley Technology Law Journal, 32 (2017)
  66. Merel Noorman, "Computing and Moral Responsibility" (2018), Stanford Encyclopedia of Philosophy
  67. Michal S. Gal, "Algorithmic Challenges to Autonomous Choice", Michigan Technology Law Review, 25 (2018)
  68. Open Letter To The European Commission Artificial Intelligence And Robotics, "Nathalie Nevejans", ~ (2018)
  69. Algorithms and Collusion: Competition Policy in the Digital Age, "OECD", ~ (2017)
  70. Pedro Domingos, "A few useful things to know about machine learning", Communications of the ACM, 55(10) (2012)
  71. The AI Index 2018 Annual Report, "Yoav Shoham", AI Index Steering Committee, Human-Centered AI Initiative, Stanford University, ~ (2018)

관련 논문AI추천

인공지능의 기초적 이해 — 규범적 관점에서 —임미원법학연구원 · 법학논총2021 · 제38권 제3호자율 AI 책임에 관한 비판적 연구최문기한국윤리학회 · 倫理硏究2021 · 제1권 제135호책임주체로서 지능형 인공지능 로봇에 대한 고찰고세일한국재산법학회 · 재산법연구2020 · 제37권 제2호현대 지능정보사회와 인격성의 확장양천수동북아법연구소 · 동북아법연구2018 · 제12권 제1호법적 주체로서 자율적 인공지능 로봇 I: 의의와 관점김건우법학연구원 · 성균관법학2018 · 제30권 제2호인공지능에 의한 의사결정의 법적 문제정진명한국경영법률학회 · 경영법률2021 · 제31권 제2호

이 간행물의 다른 논문 (21건)

수급사업자의 직접지급청구권과 원사업자의 채권자에 의한 공사대금채권의 가압류양형우pp. 1-28무효행위의 추인허명국pp. 29-56중국의 토지관리법상 토지제도의 이원화의 문제점과 개선방안에 대한 검토장석천pp. 57-77약관 중요내용의 설명의무와 그 면제사유에 관한 고찰– 대법원 2019. 5. 30. 선고 2016다276177 판결을 중심으로 –이소은pp. 79-117인도네시아-철강제품 세이프가드 조치에 대한 법적 고찰: 미 무역확장법 제232조 조치에 대한 함의강준하pp. 119-140
원문 보기