본문 바로가기
KERD
논문KCI 등재

도덕적 인공지능과 비도덕적 사회

Moral AI and Immoral Society

송용섭
한국기독교사회윤리학회 (The Society Of Korean Christian Social Ethics)|2023.12|기독교사회윤리 (The Korean Journal of Chiristian Social Ethics)|제57호|pp. 41-72

0

조회

0

다운로드

0

인용

0

참고문헌

키워드

Virtue덕라인홀드 니버Reinhold Niebuhr기독교 현실주의Christian Realism도덕적 인공지능웬델 월러치Moral AIWendell Wallach
주제분류기독교신학

초록

본 논문은 ‘도덕적 인공지능/인공적 도덕행위자’를 기독교 현실주의자 니버의 ‘도덕적 인간’ 대신에 비도덕적 사회 속에 위치시킴으로써 도덕적 인공지능의 가능성과 한계를 모색하려 한다. 이를 위하여 본 논문은 다음과 같은 주제 질문들을 제기하고 연구할 것이다. 첫째, 인공지능은 인간보다 더 도덕적인 존재가 될 수 있는가? 둘째, 도덕적 인공지능은 비도덕적 사회내의 집단 이기주의적 한계를 초월할 수 있는가? 이러한 질문에 대하여, 저자는 미래에 도덕적 인공지능이 개발된다면, 그것은 대면 관계나 표면적 문제 해결이나 명확한 공익 추구의 상황에서는 도덕적 존재로 남을 수 있을 것이라 주장한다. 하지만, 도덕적 인공지능이 사회속에서 인간과 상호작용할 경우에는, 그것이 인간의 집단 이기주의의 영향에서 완전히 벗어나는 것은 불가능할 것으로 추정한다. 그럼에도 불구하고, 미래에 도덕적 인공지능 자체가 다양한 관계속에서 인간보다 상대적으로 선해질 가능성이 있다는 가정은, 보다 정의로운 미래를 위한 일말의 희망을 준다.

Abstract

This paper seeks to explore the possibilities and limitations of Moral AI by placing ‘Moral AI/AMA’ in an immoral society instead of the ‘Moral Man’ of Reinhold Niebuhr. To this end, this paper will investigate the following questions. First, can artificial intelligence become a more moral being than humans? Second, can Moral AI transcend the limits of collective egoism within an immoral society? In response to these questions, I argue that if Moral AI is developed in the future, it may be able to remain a moral being in situations such as intimate relationships, problem solvings, or clear pursuit of common good. However, when Moral AI interacts with humans in society, it is assumed that it will be impossible for it to completely transcend the influence of humans' collective egoism. Nevertheless, the assumption that Moral AI has the possibility of becoming relatively more virtuous than humans in various relationships in the fuꠓture provides some hope for a more just future.

참고문헌 (51)

  1. 김다솜, "인공지능과 도덕적 기계 － 칸트적 모델과 흄적 모델", 철학탐구, 62, pp.177~216 (2021), 중앙철학연구소[DOI]
  2. 김은수, "10세 아동 수준의 도덕적 인공지능개발을 위한 예비 연구 - 인공지능 발달 과정을 중심으로 -", 초등도덕교육, (57), pp.105~127 (2017), 한국초등도덕교육학회[DOI]
  3. 맹주만, "인공지능, 도덕적 기계, 좋은 사람", 철학탐구, 59, pp.213~242 (2020), 중앙철학연구소[DOI]
  4. 목광수, "도덕의 구조: 인공지능 시대 도덕 논의의 출발점", 철학사상, (73), pp.163~195 (2019), 철학사상연구소[DOI]
  5. 목광수, "인공적 도덕 행위자 설계를 위한 고려사항: 목적, 규범, 행위지침", 철학사상, (69), pp.361~391 (2018), 철학사상연구소[DOI]
  6. 박균열, "도덕적 역량 개념을 토대로 한 자율적 도덕행위자(AMA)의 설명 가능한 역량 기획", 한국도덕윤리과교육학회 학술대회 자료집, 10, pp.594~603 (2020)
  7. 박균열, "인공적 도덕행위자(AMA)의 온톨로지 구축", 디지털콘텐츠학회논문지, 20(11), pp.2237~2242 (2019), 한국디지털콘텐츠학회[DOI]
  8. 박형빈, "AI윤리와 신경과학의 AMA 도전 과제- 도덕판단 알고리즘 구현을 위한 검토 사항 -", 윤리교육연구, (64), pp.91~114 (2022), 한국윤리교육학회[DOI]
  9. 박형빈, "기계윤리 및 신경윤리학 관점에서 본 인공도덕행위자(AMA) 도덕성 기준과 초등도덕교육의 과제", 한국초등교육, 31, pp.77~92 (2021), 초등교육연구원[DOI]
  10. 송승현, "인공지능과 도덕성", 법조, 67(6), pp.267~341 (2018), 법조협회[DOI]
  11. 신상규, "인공지능 시대의 윤리학", 지식의 지평, 21, pp.1~16 (2016)
  12. 신상규, "인공지능은 자율적 도덕행위자일 수 있는가?", 철학, (132), pp.265~292 (2017), 한국철학회[DOI]
  13. 신상규, "인공지능의 도덕적 지위와 관계론적 접근", 철학연구, 149, pp.243~273 (2019), 대한철학회[DOI]
  14. 이상욱, "인공지능의 도덕적 행위자로서의 가능성: 쉬운 문제와 어려운 문제", 철학연구, (125), pp.259~279 (2019), 철학연구회[DOI]
  15. 이상형, "윤리적 인공지능은 가능한가? - 인공지능의 도덕적, 법적 책임 문제 -", 법과정책연구, 16(4), pp.283~303 (2016), 한국법정책학회[DOI]
  16. 이재숭, "AMA의 도덕적 지위의 문제", 철학논총, 102(4), pp.527~545 (2020), 새한철학회
  17. 정태창, "자아 없는 자율성 - 인공 지능의 도덕적 지위에 대한 고찰 -", 사회와 철학, (40), pp.147~180 (2020), 한국사회와철학연구회[DOI]
  18. 최경석, "인공지능이 인간 같은 행위자가 될 수 있나?", 생명윤리, 21(1), pp.71~85 (2020), 한국생명윤리학회[DOI]
  19. Allen, Colin, "Why Machine Ethics", IEEE Intelligent Systems, 21(4), pp.12~17 (2006)
  20. Bostrom, Nick, "Superintelligence : Paths, Dangers, Strategies" (2014), Oxford University Press
  21. Bostrom, Nick., "The Superintelligent Will : Motivation and Instrumental Rationality in Advanced Artificial Agents", Minds and Machines, 22(2), pp.71~85 (2012)
  22. Fullam, Lisa, "Genetically Engineered Traits Versus Virtuous Living", Theology and Science, 16(3), pp.319~329 (2018)
  23. Gouw, Arvin M, "Genetic Virtue Program : An Unfeasible Neo-Pelagian Theodicy", Theology and Science, 16(3), pp.273~278 (2018)
  24. Hongladarom, Soraj, "The Ethics of AI and Robotics : A Buddhist Viewpoint, 김근배 역, 불교의 시각에서 본 AI와 로봇 윤리" (2022), 씨아이알
  25. Herzfeld, Noreen L, "The Artifice of Intelligence : Divine and Human Relationship in a Robotic Age" (2023), Fortress Press
  26. Herzfeld, Noreen L., "Theology and the Sciences" (2002), Fortress Press
  27. Jebari, Karim, "Artificial Superintelligence and Its Limits: Why Alphazero Cannot Become a General Agent", AI & SOCIETY, pp.1~9 (2020)
  28. Manna, Riya, "The Problem of Moral Agency in Artificial Intelligence", Paper presented at the 2021 IEEE Conference on Norbert Wiener in the 21st Century(21CW) (2021)
  29. Müller, Vincent C, "Future Progress in Artificial Intelligence: A Survey of Expert Opinion", Fundamental issues of artificial intelligence, pp.555~572 (2016)
  30. Muehlhauser, Luke, "Why We Need Friendly AI", Think, 13(36), pp.41~47 (2013)
  31. Niebuhr, Reinhold, "길들여진 냉소주의자의 노트" (2013), 동연
  32. Niebuhr, Reinhold, "Moral Man and Immoral Society; a Study in Ethics and Politics" (1960), C. Scribner's sons
  33. Niebuhr, Reinhold, "The Nature and Destiny of Man. Vol.1" (1996), John Knox Press
  34. Peters, Ted, "Artificial Intelligence Versus Agape Love", Forum Philosophicum, 24(2), pp.259~278 (2019)
  35. "Highlights from the Raes Future Combat Air & Space Capabilities Summit"[URL]
  36. Singler, Beth, "Roko’s Basilisk or Pascal’s? Thinking of Singularity Thought Experiments as Implicit Religion", Implicit Religion, 20(3), pp.279~297 (2018)
  37. Staff, Guardian, "Us Air Force Denies Running Simulation in Which Ai Drone ‘Killed’ Operator", The Guardian, ~ (2023)
  38. Turing, Alan M., "Theories of Mind: An Introductory Reader" (2006), Rowman & Littlefield
  39. Vallor, Shannon, "Technology and the Virtues : A Philosophical Guide to a Future Worth Wanting" (2016), Oxford University Press
  40. Wallach, Wendell, "A Dangerous Master : How to Keep Technology from Slipping Beyond Our Control" (2015), Basic Books, a member of the Perseus Books Group
  41. Wallach, Wendell, "Implementing Moral Decision Making Faculties in Computers and Robots", AI & SOCIETY, 22(4), pp.463~475 (2008)
  42. Wallach, Wendell, "Robot Minds and Human Ethics : The Need for a Comprehensive Model of Moral Decision Making", Ethics and Information Technology, 12(3), pp.243~250 (2010)
  43. Wallach, Wendell, "왜 로봇의 도덕인가" (2014), 메디치
  44. Wallach Wendell, "Consciousness and Ethics : Artificially Conscious Moral Agents", International Journal of Machine Consciousness, 3(1), pp.177~192 (2011)
  45. Wallach Wendell, "A Conceptual and Computational Model of Moral Decision Making in Human and Artificial Agents", Topics in cognitive science, 2(3), pp.454~485 (2010)
  46. An Agile Ethical, "Legal Model for the International and National Governance of Ai and Robotics", Wallach, Wendell, 2018
  47. "기계학습의 맹점, ‘흑인=고릴라’ 오류가 알려주는 것" (2019)[URL]
  48. "미래에 인간은 운전할 수 있을까?" (2016)[URL]
  49. "인공지능(AI) 판사는 정의로울까?" (2021)[URL]
  50. "성희롱·혐오논란에 3주만에 멈춘 ‘이루다’…AI윤리 숙제 남기다" (2021)[URL]
  51. "MS 채팅 봇 ‘테이’, 24시간 만에 인종차별주의자로 타락" (2016)[URL]

관련 논문AI추천

유교적 인공지능 윤리를 위한 시론(試論) : ‘인공적 도덕 행위자’를 중심으로이재복인간환경미래연구원 · 인간.환경.미래2022 · 제29호윤리적 인공지능은 가능한가? - 인공지능의 도덕적, 법적 책임 문제 -이상형한국법정책학회 · 법과정책연구2016 · 제16권 제4호인공지능, 도덕적 기계, 좋은 사람맹주만중앙철학연구소 · 철학탐구2020 · 제59권 인공지능과 도덕성송승현사단법인 법조협회 · 법조2018 · 제67권 제6호생성형 인공지능의 도덕적 추론 가능성에 대한 윤리적 고찰백승민한국윤리학회 · 倫理硏究2024 · 제1권 제145호인간과 인공지능의 동조: 덕 윤리를 통한 인공지능 윤리의 재구성이희구인문과학연구소 · 인문과학연구논총2023 · 제44권 제3호

이 간행물의 다른 논문 (14건)

켈트의 창조영성에서 본 여성생태윤리: 빙엔의 힐데가르트의 Viriditas를 중심으로김나경pp. 11-40디지털 시대에서 그리스도인의 자유최경석pp. 73-98비판적 포스트휴머니즘에 대한 여성신학적 이해최순양pp. 99-126독일어권의 디트리히 본회퍼 연구사 및 새로운 연구과제들김성호pp. 129-168처세(處世)인가 윤리(倫理)인가: 20세기 ‘동양윤리’의 문제점과 새로운 정김시천pp. 169-196
원문 보기