본문 바로가기
KERD
논문KCI 등재

규범적 AI윤리 가이드라인과 초등 AI윤리교육 적용 방안 모색

Exploring the Application of Normative AI Ethics Guidelines in Elementary AI Ethics Education

박형빈
초등교육연구원 (Elementary Education Research Institute)|2024.06|한국초등교육 (Korean Journal of Elementary Education)|제35권 제2호|pp. 79-95|DOI 10.20972/kjee.35.2.202406.79

0

조회

0

다운로드

0

인용

0

참고문헌

키워드

규범초등 교육Elementary Education뇌신경과학NeuroscienceAI EthicsAI윤리AI윤리 가이드라인NormativeAI Ethics Guidelines

초록

현대 사회의 AI 기술은 우리 생활에 많은 편리함을 제공하며 산업과 교육 등 여러 분야에 혁명적변화를 가져오고 있다. 그럼에도 불구하고 AI 발전의 그늘에는 개인 사생활 침해, 편향과 차별, 책임소재의 모호성, 군사적 이용 등 다양한 윤리적 문제들이 도사리고 있으며, 이는 사회적 규제 필요성을증대시키고 있다. 특히 초거대 언어 모델과 같은 AI 시스템이 결과를 제공하더라도 그 내부적 메커니즘은 블랙박스로 남아 있을 수 있어 사용자가 이를 파악하기 어려운 문제가 발생할 수 있다. 이러한AI윤리 문제를 해결하기 위해서는 AI 결과물을 신뢰할 수 있도록 이해하고 검증할 수 있는 프로세스가 요구되며 개발부터 사용까지 모든 단계에서 윤리적 기준과 절차의 준수가 강조된다. 미래 사회에서 AI의 설계자, 개발자, 정책 입안자, 사용자로 활약할 초등학생들에 대한 체계적인 AI윤리교육의 중요성이 점점 더 커지고 있으며 이들에게 AI 기술의 적절한 활용과 윤리적 책임을 가르치는 것이 필수적이다. 본 연구는 이를 위해 AI가 초래할 수 있는 윤리적 문제에 대응할 수 있는 교육 전략을 모색하고 있으며 규범적 AI윤리 가이드라인을 초등 AI윤리교육에 활용하는 방안을 제안한다. 이 연구에서다룰 연구 문제는 다음과 같다. 첫째, 현재 AI윤리 가이드라인은 어떠한 기준과 원칙을 포함하고 있으며 그 한계는 무엇인가? 둘째, 뇌신경과학이 밝힌 인간 도덕성의 기능적 기반은 무엇이며 AI의 윤리결정 과정에서 고려할 사항은 무엇인가? 셋째, 규범적 AI윤리 가이드라인의 필요성과 이를 초등 AI윤리교육에서 활용하는 방안은 무엇인가? 결론적으로 AI와 관련된 윤리적 이슈를 깊이 이해하고 AI 기술의 발전이 가져오는 긍정적 변화를 받아들이면서도 잠재적 위험을 관리하고 AI의 윤리적 적용을 모색할 수 있는 능력을 개발하는 것이 초등 AI윤리교육의 중요한 목표가 되어야 한다. 본 연구는 초등학생들이 AI와 연계된 윤리적 판단과 결정을 내리는 데 필요한 다양한 능력을 개발하도록 도울 것이다.

Abstract

The advent of artificial intelligence (AI) technology is driving revolutionary changes across various sectors of contemporary society, encompassing industry and education, bringing considerable convenience to our lives. Nevertheless, as AI progresses, various ethical concerns emerge, such as invasions of privacy, bias and discrimination, ambiguity in responsibility, and military applications, heightening the necessity for societal regulation. Particularly, systems such as large language models frequently function as “black boxes” with internal mechanisms that are not transparent to users, resulting in challenges understanding and trusting AI outputs. To tackle these ethical concerns, we must establish a process that enables the trustworthiness and validation of AI outcomes. This approach should prioritize the strict adherence to ethical standards and protocols at every stage from development to use. The importance of systematic AI ethics education for primary school students, who will assume roles as AI designers, developers, policymakers, and users in the future is becoming more apparent, as teaching them the proper use and ethical responsibilities associated with AI technology is crucial. This study aims to identify educational measures to address ethical problems posed by AI and proposes incorporating normative AI ethics guidelines into primary AI ethics education. It investigates the principles covered by existing AI ethics guidelines and identify their limitations. It also attempts to answer the following questions: What are the functional foundations of human morality as revealed by neuroscience, and what considerations should be made during the ethical decision-making process of AI? Why are normative AI ethics guidelines necessary, and how can they be implemented in primary AI ethics education? Ultimately, the primary objective of AI ethics education should be to gain a comprehensive understanding of AI-related ethical issues and cultivate the ability to embrace the beneficial changes AI technology brings, while effectively managing potential risks and ensuring its ethical use. This study aims to cultivate the multifaceted skills required for elementary school students to form ethical judgments and make decisions related to AI.

참고문헌 (43)

  1. 김명주, "인공지능 윤리 원칙 Seoul PACT 를 적용한 지능형 전자정부 서비스 윤리 가이드라인", 한국IT 서비스학회지, 18(3), pp.117~128 (2019)
  2. 김지연, "안전한 AI 서비스를 위한 국내 정책 및 가이드라인 개선방안 연구", 정보보호학회논문지, 33(6), pp.975~987 (2023)
  3. 김하민, "초등 도덕과 미래형 교육과정 개정 방향 탐색 : 인공지능 윤리교육을 중심으로", 초등도덕교육, (73), pp.1~27 (2021)
  4. 박형빈, "자율 주행 차량(AV)의 트롤리 딜레마 문제와 AI윤리교육의 과제", 한국초등교육, 32, pp.101~119 (2021)
  5. 박형빈, "인공지능윤리와 도덕교육" (2022), 씨아이알(CIR)
  6. 방준성, "대화형 봇에 의한 대화 주제 정렬 과정에서의 인공지능 윤리 가이드라인에관한 연구", 방송공학회논문지, 28(5), pp.564~577 (2023)
  7. 변순용, "인공지능로봇을 위한 윤리 가이드라인 연구-인공지능로봇윤리의 4 원칙을 중심으로", 윤리교육연구, (47), pp.233~252 (2018)
  8. 이인재, "AI윤리 기준을 활용한 AI윤리교육 방안 연구", 초등도덕교육, (76), pp.157~180 (2022)
  9. 이희옥, "인공지능 챗봇의 편향 통제를 위한 윤리 가이드라인", 공법연구, 51(3), pp.715~744 (2023)
  10. 정창우, "도덕과에서 AI윤리교육의 필요성과 과제", 31(1), pp.55~82 (2022), 서울대학교 교육종합연구원
  11. 정다이, "초등학교 AI윤리교육 프로그램의 개발 및 적용", 한국초등교육, 34(3), pp.39~54 (2023)
  12. "인공지능(AI) 규제와 통상분쟁⋅마찰 가능성" (2023)[URL]
  13. Alahmed, Y., "Bridging the Gap Between Ethical AI Implementations", International Journal, 10(3), pp.3034~3046 (2023)
  14. Attard-Frost, B., "The ethics of AI business practices : a review of 47 AI ethics guidelines", AI and Ethics, 3(2), pp.389~406 (2023)
  15. Balasubramaniam, N., "International Working Conference on Requirements Engineering: Foundation for Software Quality", pp.3~18 (2022), Springer International Publishing
  16. Boddington, P., "AI E thics: A Textbook", pp.229~276 (2023), Springer Nature Singapore
  17. Boyd, M., "Rapid developments in artificial intelligence : how might the New Zealand government respond?", Policy Quarterly, 13(4), pp.36~43 (2017)
  18. Borenstein, J., "Emerging challenges in AI and the need for AI ethics education", AI and Ethics, 1, pp.61~65 (2021)
  19. Chatila, R., "The IEEE global initiative on ethics of autonomous and intelligent systems", Robotics and well-being, 95, pp.11~16 (2019)
  20. Corrêa, N. K., "Worldwide AI ethics : A review of 200guidelines and recommendations for AI governance", Patterns, 4(10), pp.1~14 (2023)
  21. Dornis, T. W., "Artificial creativity : emergent works and the void in current copyright doctrine", Yale JL & Tech, 22, pp.1~35 (2020)
  22. Fan, J., "From brain science to artificial intelligence", Engineering, 6(3), pp.248~252 (2020)
  23. Franzke, A. S., "An exploratory qualitative analysis of AI ethics guidelines. Journal of Information", Communication and Ethics in Society, 20(4), pp.401~423 (2022)
  24. Furey, H., "AI education matters : a modular approach to AI ethics education", AI Matters, 4(4), pp.13~11 (2019)
  25. Gasser, U., "A layered model for AI governance", IEEE Internet Computing, 21(6), pp.58~62 (2017)
  26. Hagendorff, T., "The ethics of AI ethics : An evaluation of guidelines", Minds and machines, 30(1), pp.99~120 (2020)
  27. Hagendorff, T., "A virtue-based framework to support putting AI ethics into practice", Philosophy &Technology, 35, pp.55~ (2022)[DOI]
  28. Hagendorff, T., "AI ethics and its pitfalls : not living up to its own standards?", AI and Ethics, 3(1), pp.329~336 (2023)
  29. Héder, M., "A criticism of AI ethics guidelines", Információs Társadalom : Társadalomtudományi Folyóirat, 20(4), pp.57~73 (2020)
  30. Jobin, A., "The global landscape of AI ethics guidelines", Nature machine intelligence, 1(9), pp.389~399 (2019)
  31. Luger, G. F., "From Alan Turing to modern AI : practical solutions and an implicit epistemic stance", AI & SOCIETY, 32, pp.321~338 (2017)
  32. Lungarella, M., "50 Years of Artificial Intelligence: Essays Dedicated to the 50th Anniversary of Artificial Intelligence (Vol. 4850)" (2007), Springer
  33. Macpherson, T., "Natural and Artificial Intelligence : A brief introduction to the interplay between AI and neuroscience research", Neural Networks, 144, pp.603~613 (2021)
  34. May, J., "Moral rationalism on the brain", Mind & Language, 38(1), pp.237~255 (2023)
  35. Pennestrì, F., "Artificial intelligence in laboratory medicine : fundamental ethical issues and normative key-points", Clinical Chemistry and Laboratory Medicine(CCLM), 60(12), pp.1867~1874 (2022)
  36. Rahwan, I., "Society-in-the-loop : programming the algorithmic social contract", Ethics and information technology, 20(1), pp.5~14 (2018)
  37. Ryan, M., "Artificial intelligence ethics guidelines for developers and users: clarifying their content and normative implications", Journal of Information, Communication and Ethics in Society, 19(1), pp.61~86 (2020)
  38. Scherer, M. U., "Regulating artificial intelligence systems: Risks, challenges, competencies, and strategies", Harv. JL & Tech, 29, pp.353~ (2015)
  39. Searle, J. R., "Minds, brains, and programs", Behavioral and brain sciences, 3(3), pp.417~424 (1980)
  40. Stahl, B. C., "Artificial Intelligence for a better future: An ecosystem perspective on the ethics of AI and emerging digital technologies", pp.35~53 (2021), Springer
  41. Thierer, A., "Artificial Intelligence and Public Policy" (2017), Annals of Computational Economics
  42. Turing, A. M., "Computing machinery and intelligence" (2009), Springer Netherlands
  43. Widder, D. G., "Limits and possibilities for “Ethical AI” in open source: A study of deepfakes", Proceedings of the 2022 ACM Conference on Fairness, Accountability, and Transparency, pp.2035~2046 (2022)

관련 논문AI추천

초등학교 도덕과 수업에서 인공지능 윤리교육 방안 탐색 연구신태수, 신현우, 신현화교육연구원 · 학교와 수업 연구2022 · 제7권 제1호인공지능 윤리교육의 초등도덕 교육과정 적용 방안홍현주한국초등도덕교육학회 · 초등도덕교육2021 · 제75호기계윤리 및 신경윤리학 관점에서 본 인공도덕행위자(AMA) 도덕성 기준과 초등도덕교육의 과제박형빈초등교육연구원 · 한국초등교육2021 · 제31권 AI 윤리 기준을 활용한 AI 윤리교육 방안 연구이인재한국초등도덕교육학회 · 초등도덕교육2022 · 제76호초등학교 AI 윤리교육 프로그램의 개발 및 적용박형빈, 정다이초등교육연구원 · 한국초등교육2023 · 제34권 제3호초등 도덕과를 통한 인공지능윤리교육 방안 모색한찬희한국초등도덕교육학회 · 초등도덕교육2020 · 제69호

이 간행물의 다른 논문 (18건)

문제중심학습(PBL)을 활용한 환경갈등해결 교육 프로그램 개발이상원, 김수정pp. 1-24교사학습공동체의 협력으로 실현하는 활동중심 생태전환교육: 설계기반연구에 의한 프로그램 개발이상원, 이화진pp. 25-41초등 예비교사교육자가 ‘뉴스포츠를 활용한 체육수업’ 강좌 운영에서 주목한 내용 측면고문수pp. 43-61듀이 교육이론에서 지리교과의 가치와 구조김보매pp. 63-78제1차∼제3차 교육과정 시기 국민학교 1∼2학년 음악 교과 편제 및 교육과정 고찰김은주pp. 97-114
원문 보기