본문 바로가기
KERD
논문KCI 등재

인공지능 윤리규범과 규제 거버넌스의 현황과 과제

Challenges of Establishing Ethics Principles and a Governance Regime for Artificial Intelligence

박도현|이나래|고학수
법학연구소 (The Institute of Legal Studies Konkuk University)|2020.05|경제규제와 법|제13권 제1호|pp. 7-36|DOI 10.22732/CeLPU.2020.13.1.7

0

조회

0

다운로드

38

인용

0

참고문헌

키워드

규제인공지능거버넌스Artificial IntelligenceGovernanceAccountability책임성인공지능 윤리AI Ethics
주제분류법학

초록

본고는 인공지능 시대에 새로이 부각되는 윤리적 이슈를 고찰하고 우리나라가 추구해야 할 윤리규범과 규제 거버넌스 체계의 방향에 대한 실마리를 제공하고자 한다. 인공지능 윤리는 그동안 관련분야와의 상호작용을 토대로 다음과 같은 방향으로 발전해왔다. 첫째, 아시모프 로봇 3원칙 이래로, 논의의 주체가 설계자, 제작자, 이용자와 같은 인간 이해관계자로 확장되어왔다. 둘째, 책임귀속에 관한 과거의 대전제가 점차 통용되지 않고, 대중의 알 권리나 이해관계자의 주체적 참여에 대한 요구가 늘어나면서 ‘책임성’에 대한 관념이 확장되고 있다. 셋째, ‘신기술’ 일반의 본성을 추상적으로 규명하는 접근방식의 한계로 인해, 인공지능이 활용되는 구체적 맥락에 주목하는 방향으로 논의가 구체화되고 있다. 인공지능 윤리에 관한 국내외의 논의는 최근 몇 년 동안 급속히 진전되었다. 이러한 논의는 윤리규범을 마련하거나 규제 거버넌스 구조를 구축하는 방향으로 수렴하고 있다. 지금까지의 논의는 내용의 범위와 깊이를 기준으로 크게 세 가지 유형으로 나누어볼 수 있다. 첫째, 기본원칙 중심의 논의, 둘째, 기본원칙과 심화된 이슈를 함께 다루는 논의, 셋째, 윤리규범과 규제 거버넌스 정립방안에 대한 구체적 논의이다. 일반적으로 최신의 논의이거나 공적 주체가 마련한 논의일수록 후자에 해당하는 경향을 보이지만, 반드시 그렇지는 않다. 국내의 인공지능 윤리에 대한 최초의 논의는 2007년 발표된 ‘로봇윤리헌장 초안’에서 시작되었다고 볼 수 있다. 이를 기준으로 하면 세계적으로도 빠르게 논의가 시작된 편이다. 그러나 그로부터 오랜 동안 논의에 별다른 진전이 없다가, 근래에 새로이 관심이 늘고 있다. 인공지능 윤리 및 규제 거버넌스 담론은 지속적으로 국제사회와 발맞추어 진행되어야 한다. 또한, 일견 원론적이고 교과서적 내용의 단순한 나열로 보일 때에도, 배후에는 자신에게 유리한 방향으로 논의를 이끌기 위한 이해관계자들의 치열한 이익대립이 숨겨져 있다는 사실을 염두에 두고 제반 이슈에 대한 면밀한 검토와 분석이 필요하다.

Abstract

This paper examines various ethical issues related to Artificial Intelligence (AI). Major characteristics of discussions on AI ethics can be explained as follows. First, since Asimov’s three laws of robotics were first proffered, a main focus of discussions has shifted from robot actors toward human actors. Second, the role of ​​“accountability” has expanded as the gap widened between granting redress through legal liability and calling for responsibility for undesirable happenstance. Third, AI-related technologies as well as their applications are changing constantly and, as such, specific contexts and circumstances should be considered in developing relevant norms. Discussions on AI ethics principles have progressed rapidly in recent years. There are several types of discussions, with varying degree of the scope and depth of the discussions. First, certain discussions focused on establishing consensus and deriving basic principles. Second, other discussions dealt more specific issues, often accompanied with in-depth analyses of relevant issues. Third, still other types of discussions focused on establishing ethical norms as well as a governance structure in order to carry out the ethical norms. While discussions on AI ethics in Korea first began in 2007, more serious discussions did not resume until recent years. Generally speaking, discussions in Korea are in conformity with discussions that have been taking place in other countries and the international community.

참고문헌 (102)

  1. 변순용, "윤리적 AI로봇 프로젝트" (2019), 어문학사
  2. 웬델 월러치, "왜 로봇의 도덕인가" (2014), 메디치미디어
  3. 이원우, "4차 산업혁명 시대의 기술혁신과 규제정책" (2019), 홍문사
  4. 4차산업혁명시대 산업별 인공지능 윤리의 이슈 분석 및 정책적 대응방안 연구, "이원태", 대통령 직속 4차산업혁명위원회, ~ (2018)
  5. 캐시 오닐, "대량살상 수학무기" (2017), 흐름출판
  6. 프랭크 파스콸레, "블랙박스 사회" (2016), 안티고네
  7. 한희원, "인공지능(AI) 법과 공존윤리" (2018), 박영사
  8. 고인석, "아시모프의 로봇 3법칙 다시 보기: 윤리적인 로봇 만들기", 철학연구, (93), pp.97~120 (2011), 철학연구회
  9. 고학수, "인공지능과 차별", 저스티스, 171, pp.199~277 (2019), 한국법학원[DOI]
  10. 김건우, "로봇윤리 vs. 로봇법학: 따로 또 같이", 법철학연구, 20(2), pp.7~44 (2017), 한국법철학회[DOI]
  11. 김미리, "인공지능 전문가 윤리의 역할과 윤리 기준의 지향점", 법학논총, 32(3), pp.9~53 (2020), 법학연구소[DOI]
  12. 김종호, "인공지능 시대의 윤리와 법적 과제", 과학기술법연구, 24(3), pp.155~205 (2018), 과학기술법연구원[DOI]
  13. 김효은, "인공지능과 법" (2019), 박영사
  14. 남중권, "머신러닝 알고리즘의 데이터 처리에 대한 법적 제한의 한계 :개인정보보호와 차별금지의 측면에서", 과학기술과 법, 10(1), pp.65~94 (2019), 법학연구소[DOI]
  15. 박도현, "인공지능과 자율성의 역학관계", 홍익법학, 20(3), pp.501~538 (2019), 법학연구소[DOI]
  16. 박도현, "미래를 향한 인공지능 정책: 우리는 AI를신뢰할 수 있을까?", 2019 국제학술대회보고서 (2019), 서울대학교 법과경제연구센터
  17. 방송통신위원회, "이용자 중심의 지능정보사회를위한 원칙", ~ (2019)
  18. 지속가능경영보고서 2019, "삼성전자", ~ (2019)
  19. 손화철, "기술철학에서의 경험으로의 전환: 그 의의와 한계", 철학, (87), pp.137~164 (2006), 한국철학회
  20. 송승현, "인공지능과 도덕성", 법조, 67(6), pp.267~341 (2018), 법조협회[DOI]
  21. 송성수, "공학단체의 윤리강령에 관한 비교 분석 : 미국과 한국의 사례를 중심으로", 공학교육연구, 11(3), pp.78~89 (2008), 한국공학교육학회[DOI]
  22. 신상규, "인공지능 시대의 윤리학", 지식의 지평, 21 (2016)
  23. 심민석, "로봇과 인공지능(AI)의 법적․윤리적 입법방안에 관한 연구", 비교법연구, 19(2), pp.43~84 (2019), 비교법문화연구소[DOI]
  24. 양희태, "인공지능의 위험성에 대한 우려로 제정된아실로마 인공지능 원칙", 과학기술정책, 27(8) (2017)
  25. 오병철, "인공지능 로봇에 의한 손해의 불법행위책임", 법학연구, 27(4), pp.157~231 (2017), 법학연구원[DOI]
  26. 오요한, "인공지능 알고리즘은 사람을 차별하는가?", 과학기술학연구, 18(3), pp.153~215 (2018), 한국과학기술학회[DOI]
  27. 유재홍, "일본의 인공지능 전략 동향 : AI 전략", 월간 SW 중심사회, 통권 : 60 (2019)
  28. 이상형, "윤리적 인공지능은 가능한가? - 인공지능의 도덕적, 법적 책임 문제 -", 법과정책연구, 16(4), pp.283~303 (2016), 한국법정책학회[DOI]
  29. 이중기, "자율주행자동차와 로봇윤리: 그 법적 시사점", 홍익법학, 17(2), pp.1~25 (2016), 법학연구소[DOI]
  30. 이중원, "인공지능에게 책임을 부과할 수 있는가?: 책무성 중심의 인공지능 윤리 모색", 과학철학, 22(2), pp.79~104 (2019), 한국과학철학회
  31. 정보문화포럼, "지능정보사회 윤리 가이드라인", ~ (2018)
  32. 정채연, "지능정보사회에서 지능로봇의 윤리화 과제와 전망- 근대적 윤리담론에 대한 대안적 접근을 중심으로 -", 동북아법연구, 12(1), pp.87~121 (2018), 동북아법연구소[DOI]
  33. 최난설헌, "연성규범(Soft Law)의 기능과 법적 효력 - EU 경쟁법상의 논의를 중심으로 -", 법학연구, 16(2), pp.87~123 (2013), 법학연구소
  34. 카카오, "카카오 알고리즘 윤리 헌장", ~ (2018)
  35. 카카오, "카카오 새로운 알고리즘 윤리 헌장", ~ (2019)
  36. 한애라, "“사법시스템과 사법환경에서의 인공지능 이용에 관한 유럽 윤리헌장”의 검토 - 민사사법절차에서의 인공지능 도입 논의와 관련하여 -", 저스티스, 172, pp.38~79 (2019), 한국법학원[DOI]
  37. 한희원, "인공지능(AI) 치명적자율무기(LAWs)의 법적ㆍ윤리적 쟁점에 대한 기초연구", 중앙법학, 20(1), pp.325~365 (2018), 중앙법학회[DOI]
  38. AI 연구개발과 활용 촉진을 위한 ‘AI 개발가이드라인(안)’, "황현주", NIA, ~, pp.NIA Special Report 2017-9 (2017)
  39. Smith, Brad, "The Future Computed", Microsoft, ~ (2018)
  40. Asaro, Peter M., "What Should We Want From a Robot Ethic?", International Review of Information Ethics, 6(12) (2006)
  41. Association for Computing Machinery US Public Policy Council, "Statement on Algorithmic Transparency and Accountability", ~ (2017)
  42. Awad, Edmond, "The Moral Machine experiment", Nature, 563 (2018)
  43. Barocas, Solon, "Big Data’s Disparate Impact", California Law Review, 104 (2016)
  44. Bonnefon, Jean-François, "The Social Dilemma of Aut onomous Vehicles", Science, 354(6293) (2016)
  45. Bostrom, Nick, "Science Fiction and Philosophy: from Time Travel to Superintelligence" (2003)
  46. Burrell, Jenna, "How the machine ‘thinks’:Understanding Opacity in Machine Learning Algorithms" (2016), Big Data &Society
  47. Bynum, Terrell, "Computer and Information Ethics", Stanford Encyclopedia of Philosophy, ~ (2015)
  48. Caplan, Robyn, "Algorithmic Accountabi lity : A Primer" (2018), Data & Society
  49. Castelluccia, Claude, "Un derstanding Algorithmic Decision-Ma king: Opportunities and Challenges" (2019), Panel for the Future of Science and Technology
  50. Citron, Danielle Keats, "Technological Due Process", Washington University Law Review, 85 (2008)
  51. Dean, Jeff, "Responsible AI:Putting our principles into action", ~ (2019)
  52. Demiaux, Victor, "How can Humans keep the Upper Hand:The Ethical Matters Raised by Algorithms and Artificial Intelligence", ~ (2017)
  53. Diakopoulos, Nicholas, "Accountability in Algorithmic Decision Making", Communications of the ACM, 59(2) (2016)
  54. Di Fabio, Udo, "Ethics Commission Automated and Connected Driving", Federal Ministry of Transport and Digital Infrastructure of the Federal Republic of Germany, ~ (2017)
  55. Engineering and Physical Science Research Council, "Principles of robotics", ~ (2010)
  56. European Commission for the Efficiency of Justice, "European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems and Their Environment", ~ (2018)
  57. European Commission High-Level Expert Group on Artificial Intelligence, "Ethics Guidelines for Trustworthy AI", ~ (2019)
  58. European Parliament, "European Parliament Resolution of 16 February 2017 with Recommendations to the Commission on Civil Law Rules on Robotics (2015", 2103(INL)), 2017
  59. Franssen, Maarten, "Philosophy of Technology", Stanford Encyclopedia of Philosophy (2018)
  60. Future of Life Institute, "Autonomous Weapons: An Open Letter from AI &Robotics Researchers" (2015)
  61. Future of Life Institute, "Asilomar AI Principles", ~ (2017)
  62. G20, "G20 AI Principles", ~ (2019)
  63. Google, "Perspectives on Issues in AI Governance", ~ (2019)
  64. Gotterbarn, Don, "ACM Code of Ethics and Professional Conduct", Association for Computing Machinery, ~ (2018)
  65. Infocomm Media Development Authority, "Model Artificial Intelligence Governance Framework Second Edition", ~ (2020)
  66. Institute of Electrical and Electronics Engineers, "Ethically Aligned Design Version 1: A Vision for Prioritizing Human Well-being with Artificial Intelligence and Autonomous Systems", ~ (2016)
  67. Institute of Electrical and Electronics Engineers, "Ethically Aligned Design Version 2: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems", ~ (2017)
  68. Institute of Electrical and Electronics Engineers, "Ethically Aligned Design First Edition: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems", ~ (2019)
  69. Microsoft, "Responsible Bots: 10 Guidelines for Developers of Conversational AI", ~ (2018)
  70. Microsoft, "Six Principles for Developing and Deploying Facial Recognition Technology", ~ (2018)
  71. Moor, James H., "The Nature, Importance, and Difficulty of Machine Ethics", IEEE Intelligent Systems, 21(4) (2006)
  72. Mulgan, Richard, "‘Accountability’ : An Ever-Expanding Concept?", Public Administration, 78(3) (2000)
  73. Murphy, Robin R., "Beyond Asimov : The Three Laws of Responsible Robotics", IEEE Intelligent Systems, 24(4) (2009)
  74. Nevejans, Nathalie, "Open Letter to The European Commission Artificial Intelligence And Robotics", ~ (2018)
  75. Nissenbaum, Helen, "Accountability in a Computerized Society", Science and Engineering Ethics, 2(1) (1996)
  76. Noorman, Merel, "Computing and Moral Responsibility", Stanford Encyclopedia of Philosophy, ~ (2018)
  77. OECD, "Recommendation of the Council on Artificial Intelligence", ~ (2019)
  78. Palmerini, Erica, "Guidelines on Regulating Robotics", RoboLaw Project, ~ (2014)
  79. Personal Data Protection Commission Singapore, "A Proposed Model AI Governance Framework", ~ (2019)
  80. Pichai, Sundar, "AI at Google: our Principles", ~ (2018)
  81. Stoker, Gerry, "Governance as Theory : Five Propositions", International Social Science Journal, 50(155) (1998)
  82. “Artificial Intelligence and Life in 2030”, One Hundred Year Study on Artificial Intelligence:Report of the 2015-2016 Study Panel, "Stone, Peter", ~ (2016)
  83. 권은정, "미국의 인공지능(AI) 윤리 및 거버넌스 현황", 경제규제와 법, 12(2), pp.100~115 (2019), 법학연구소
  84. Takanishi, A., "World Robot Declaration", International Robot Fair, ~ (2004)
  85. The Conference toward AI Network Society, "Draft AI R&D Guidelines for International Discussions", ~ (2017)
  86. The Conference toward AI Network Society, "Draft AI Utilization Principles", ~ (2018)
  87. The White House, "Consumer Data Privacy in a Networked World: A Framework for Protecting Privacy and Promoting Innovation in the Global Digital Economy", ~ (2012)
  88. American Artificial Intelligence Initiative: Year One Annual Report, "The White House Office of Science and Technology Policy", ~ (2020)
  89. Trump, Donald J., "Executive Order on Maintaining American Leadership in Artificial Intelligence", Federal Register: White House, ~ (2019)
  90. Tucker, Catherine, "The Economics of Artificial Intelligence" (2019), University of Chicago Press
  91. U.S. Executive Office of the President, "BIG Data: Seizing Opportunities, Preserving Values", ~ (2014)
  92. BIG Data: Seizing Opportunities, Preserving Values Interim Progress Report, "U.S. Executive Office of the President", ~ (2015)
  93. U.S. Executive Office of the President, "Opportunity, and Civil Rights" (2016)
  94. U.S. Executive Office of the President, "Artificial Intelligence, Automation, and the Economy", ~ (2016)
  95. U.S. Executive Office of the President, "Preparing for the Future of Artificial Intelligence", ~ (2016)
  96. AI in the UK:ready, willing and able?, "UK House of Lords Select Committee on Artificial Intelligence", ~, pp.Report of Session 2017-19 (2018)
  97. United Nations Global Pulse, "Building Ethics into Privacy Frameworks for Big Data and AI", ~ (2018)
  98. Veruggio, Gianmarco, "EURON Roboethics Roadmap(Release 1. 1)", EURON Roboethics Atelier, ~ (2006)
  99. Veruggio, "EURON Roboethics Roadmap(Release. 1.2)", ~ (2007)
  100. Villani, Cédric, "For A Meaningful Artificial Intelligence: Towards A French and European Strategy", ~ (2018)
  101. Vought, Russell T., "Guidance for Regulation of Artificial Intelligence Applications(Draft)", ~ (2020)
  102. Winfield, Alan F. T., "Ethical Governance is Essential to Building Trust in Robotics and Artificial Intelligence Systems", Philosophical Transactions of the Royal Society A:Mathematical, Physical and Engineering Sciences, 376(2133) (2018)

관련 논문AI추천

왜 윤리인가: 현대 인공지능 윤리 논의의 조망, 그 특징과 한계심지원, 이연희, 허유선인간환경미래연구원 · 인간.환경.미래2020 · 제24호인공지능 윤리와 로봇 윤리, 차이와 연속성-모두의 윤리로서 인공지능 윤리를 향하여-심지원, 이연희, 허유선동서사상연구소 · 철학∙사상∙문화2020 · 제34호미국의 인공지능(AI) 윤리 및 거버넌스 현황권은정법학연구소 · 경제규제와 법2019 · 제12권 제2호주요국의 인공지능 법제와 한국의 입법 방향심우민한국사회과학연구회 · 동향과 전망2024 · 제122호인공지능(AI) 윤리원칙을 중심으로 한 규제 내용 분석·비교유지연, 정나영IT와 법연구소 · IT와 법연구2024 · 제28호유럽연합의 인공지능 관련 입법 동향을 통해 본 시사점이보연법학연구원 · 法學論文集2019 · 제43권 제2호

이 간행물의 다른 논문 (4건)

인공지능 관점에서 GDPR 제22조의 인간 개입에 대한 분석황지은pp. 37-58개인정보보호법상의 국외이전 개정방안 연구안정민pp. 59-74VR/AR 산업 활성화를 위한 법⋅제도 개선방안 - 의료ㆍ교육ㆍ영상 관련 실감 콘텐츠 규제를 중심으로 -이승민pp. 75-95데이터 경제 활성화를 위한 필수요소법리의 재검토방정미pp. 96-115
원문 보기