본문 바로가기
KERD
논문KCI 등재

기계윤리 및 신경윤리학 관점에서 본 인공도덕행위자(AMA) 도덕성 기준과 초등도덕교육의 과제

Morality Standards of Artificial Moral Agents(AMA) and The Tasks of Elementary Moral Education in Machine Ethics and Neuroethics

박형빈
초등교육연구원 (Elementary Education Research Institute)|2021.01|한국초등교육 (Korean Journal of Elementary Education)|제31권 |pp. 77-92|DOI 10.20972/kjee.31..202101.77

1

조회

0

다운로드

10

인용

0

참고문헌

키워드

도덕교육Moral Education인공지능윤리AMAAI Ethics신경윤리학인공도덕행위자기계윤리NeuroethicsMachine Ethics

초록

다양한 사회 영역에 걸친 강력한 변형력과 심오한 영향력에 비해 AI의 개발 및 사용을 안내하는 원칙과 가치 기준 정립은 일천하다. 그러나 인류는 인공도덕행위자(AMA)의 행동을 설계하고 도덕적으로평가할 시점에 이르렀을 뿐만 아니라, 이와 관련해 답해야 할 여러 가지 질문과 문제에 봉착했다. 기계또는 로봇을 도덕적 행위자로 인정할 수 있는가와 같은 근본적인 윤리 문제를 포함하여 보다 근원적이고 구체적인 문제에 답변할 것을 요구받고 있다. AI 응용과 설계에 있어서의 윤리, AI 자체의 윤리 모형 등은 인류가 추구해야 할 AI 산업을 위한 윤리적 기초가 된다. AI 윤리는 도덕교육, 윤리교육 현장에서 중요하게 다루어야 할 주제 및 내용 요소이다. 그러므로 학습 보조 수단으로서의 AI 역할뿐만 아니라 AI 윤리는 교육 현장에서 교육 콘텐츠로서도 주요한 자원이다. 본 연구에서는 AI 윤리 문제와 관련하여 초등학교 도덕교육 현장에서 교육 콘텐츠로서 반드시 다룰 필요가 있는 주제 및 내용 요소들을살펴보고자 했다. 이를 위해 첫째, 기계윤리 문제에 대해 살펴보았다. 둘째, 신경윤리학에서 기계윤리구현 문제를 분석하였다. 셋째, 인공도덕행위자를 위한 도덕적 기준을 탐색하였다. 넷째, 초등학교 도덕과 과제로서 초등도덕에서 다루어야 할 AI 윤리 관련 내용 요소들을 제안하였다. 윤리적 다원주의와윤리적 전문성 부족으로 설계된 AMA는 단순한 인공행위자로 전락할 수 있으며 이를 통해 야기된 도덕적 문제들의 피해는 고스란히 인류의 몫이 될 수 있다. 따라서 초등학교 현장에서 학생들의 뇌신경과학적, 발달심리학적 특성을 고려한 교육 방법을 통해 중요한 교육 콘텐츠로서 AI 윤리, 기계윤리 관련 논의를 다룰 필요가 있다. 도덕적 인격 형성의 복잡성을 간과한 AMA 구축으로 인해 프로그래머와컴퓨터 공학자들이 오류에 봉착하지 않도록 하는 노력은 초등학교 도덕교육 현장에서부터 이루어져야할 것이다.

Abstract

The principles that guide the use of AI are not yet established or complete. Given that AI iscausing a powerful transformation in the world, and has profound influence on social domains, weurgently need to create moral standards/rules and regulations that would prohibit certain activitydeemed unhealthy for children. However, humans have created an artificial moral agent(AMA) thatacts concern for morality. This is a huge problem. The technology is well ahead of the AI ethics, andour current AI ethics can't cope with all these changes. Therefore I believe that an ethicscommission must be established to oversee the development of this powerful new technology,especially in the area of education. Children are vulnerable and need our protection against amoralagents in the AI arena. In addition to the role of AI as a tool for learning, AI ethics should be a part of any educationcurriculum. First, the study should explore machine ethics and the task of implementing ethicalbehavior. Second, the task of implementing machine ethics in neuroethics is analyzed. Third, weshould research possible ethical standards. Fourth, children should be educated about theopportunities and moral hazards of AI. We could create AMA to be a simple artificial agent. AI ethicsshould therefore be an integral part of future education programs with a special focus on earlychildhood psychological development. Programmers and computer engineers should avoid errors dueto the AMA design that overlooked the complexity of moral character. We should deal with machineethics for elementary students.

참고문헌 (27)

  1. 박형빈, "AI 도덕성 신화와 그 실제: 기계의 인간 도덕 능력 모델링 가능성과 한계", 한국초등교육, 31, pp.1~14 (2020), 초등교육연구원
  2. 신상규, "인공지능은 자율적 도덕행위자일 수 있는가?", 철학, (132), pp.265~292 (2017), 한국철학회[DOI]
  3. 최현철, "인공적 도덕 행위자에 대한 융합접근의 철학적 기획", 윤리연구, 1(124), pp.1~16 (2019), 한국윤리학회[DOI]
  4. Allen, C., "Prolegomena to any future artificial moral agent", Journal of Experimental & Theoretical Artificial Intelligence, 12(3), pp.251~261 (2000)
  5. Allen, C., "Artificial morality : Top-down, bottom-up, and hybrid approaches", Ethics and information technology, 7(3), pp.149~155 (2005)
  6. Anderson, M., "Machine ethics" (2011), Cambridge University Press
  7. Beck, J., "Applications of AI in education. XRDS: crossroads", The ACM Magazine for Students, 3(1), pp.11~15 (1996)
  8. Behdadi, D., "A Normative Approach to Artificial Moral Agency", Minds and Machines, 30, pp.195~218 (2020)
  9. Bergman, R., "Why be moral? A conceptual model from developmental psychology", Human development, 45(2), pp.104~124 (2002)
  10. Blair, J., "Neuro-cognitive systems involved in morality", Philosophical Explorations, 9(1), pp.13~27 (2006)
  11. Blake, B., "Developmental psychology : incorporating Piaget’s and Vygotsky’s theories in classrooms", Journal of Cross-Disciplinary Perspectives in Education, 1(1), pp.59~67 (2008)
  12. Bryck, R. L., "Training the brain: practical applications of neural plasticity from the intersection of cognitive neuroscience, developmental psychology, and prevention science", American Psychologist, 67(2), pp.87~100 (2012)
  13. Churchland, P. S., "Human dignity and bioethics: essays commissioned by the president's council on bioethics", pp.93~115 (2008), The President's Council on Bioethics
  14. Churchland, P. S., "Neurophilosophy : an introduction and overview", Functional Neurology, 22(4), pp.179~180 (2007)
  15. Coseru, C., "Buddhism, comparative neurophilosophy, and human flourishing", Journal of Religion &Science, 49(1), pp.208~219 (2014)
  16. De Oliveira, N., "Recasting the naturalism–normativity debate : neuroscience, neurophilosophy, neuroethics", Princípios : Revista de Filosofia, 20(33), pp.79~103 (2013)
  17. Gordon, J. S., "Building moral robots: ethical pitfalls and challenges", Science and engineering ethics, 26(1), pp.141~157 (2020)
  18. Hagendorff, T., "The ethics of AI ethics : An evaluation of guidelines", Minds and Machines, 30, pp.99~120 (2020)
  19. Himma, K. E., "Artificial agency, consciousness, and the criteria for moral agency: What properties must an artificial agent have to be a moral agent?", Ethics and Information Technology, 11(1), pp.19~29 (2009)
  20. Jobin, A., "The global landscape of AI ethics guidelines", Nature Machine Intelligence, 1(9), pp.389~399 (2019)
  21. Lipman, M., "Moral education higher-order thinking and philosophy for children", Early Child Development and Care, 107(1), pp.61~70 (1995)
  22. Moor, J. H., "The nature, importance, and difficulty of machine ethics", IEEE Intelligent Systems, 21(4), pp.18~21 (2006)
  23. Nucci, L., "Capturing the complexity of moral development and education", Mind, Brain, and Education, 3(3), pp.151~159 (2009)
  24. Plunkett, K., "Connectionism and developmental psychology", Journal of Child Psychology and Psychiatry, 38(1), pp.53~80 (1997)
  25. Sullins, J. P., "When is a robot a moral agent", Machine ethics, 6(2006), pp.23~30 (2006)
  26. Welsh, M. C., "Assessing frontal lobe functioning in children : views from developmental psychology", Developmental Neuropsychology, 4(3), pp.199~230 (1988)
  27. Woodhead, M., "Reconstructing developmental psychology—some first steps", Children & Society, 13(1), pp.3~19 (1999)

관련 논문AI추천

초등 도덕과에서의 인공지능윤리교육 방안 연구 - 인공적 도덕 행위자(AMA) 논의를 중심으로 -권누리한국초등도덕교육학회 · 초등도덕교육2024 · 제87호규범적 AI윤리 가이드라인과 초등 AI윤리교육 적용 방안 모색박형빈초등교육연구원 · 한국초등교육2024 · 제35권 제2호인공지능 윤리와 도덕과 교육김국현뇌·AI기반교육연구소 · Brain, Digital, & Learning2020 · 제10권 제1호초등학교 도덕과 수업에서 인공지능 윤리교육 방안 탐색 연구신태수, 신현우, 신현화교육연구원 · 학교와 수업 연구2022 · 제7권 제1호인공지능 윤리교육의 초등도덕 교육과정 적용 방안홍현주한국초등도덕교육학회 · 초등도덕교육2021 · 제75호AI 도덕성 신화와 그 실제: 기계의 인간 도덕 능력 모델링 가능성과 한계박형빈초등교육연구원 · 한국초등교육2020 · 제31권 제1호

이 간행물의 다른 논문 (11건)

기업체 채용과정에서의 AI 활용이대학의 입학사정에 주는 시사점이영선, 권지은, 권정민pp. 1-15기계의 지능과 인간의 사고 : 교육학적 성찰신춘호pp. 17-30초등영어교육에서 음성대화형 챗봇 활용 방법론 탐색 및 효과홍선호, 오지윤, 윤택남, 이삭pp. 31-55초등학생들의 의사소통역량 함양을 위한 융합 교육과정의 구안: 5~6학년 국어, 영어, 체육교과를 중심으로이재승, 윤여범, 이영석, 장용규, 김동식pp. 57-76포스트휴먼 시대를 위한 문학교육의 방향 탐색이향근pp. 93-104
원문 보기