본문 바로가기
KERD
논문KCI 등재

인공지능의 교육적 활용을 위한 윤리 지침 개발

Ethical Guidelines for Educational Use of AI

정종원|박연정|이은배|노석준
한국교육공학회 (Korean Society Of Educational Technology)|2023.12|교육공학연구 (Journal of Educational Technology)|제39권 제4호|pp. 1509-1564|DOI http://dx.doi.org/10.17232/KSET.39.4.1509

0

조회

0

다운로드

9

인용

0

참고문헌

키워드

인공지능연구자학습자learnersinstructors윤리지침researchersI교수자교육프로그램 설계ㆍ개발자ethical guidelineseducational program designers and developers
주제분류교육학

초록

인공지능(AI)의 기술적 진보를 통한 인간 사회의 발전 가능성에 대한 장밋빛 전망과 동시에 AI 또는 AI를 탑재한 로봇의 잠재적 위험성과 새로운 윤리적 논제들이 제기되고 있다. 또한 AI의 교육적 활용에서 고려해야 할 윤리적 이슈나 지침 연구는 미흡한 실정이며, 관련 주체(교육프로그램 설계ㆍ개발자, 연구자, 교수자, 학습자)가 실질적으로 활용할 수 있는 구체적인 가이드라인이 부재하다. 본 연구는 AI를 교육적 목적으로 활용하는 과정에서 관련 주체가 지켜야 하는 윤리 지침을 마련하는데 목적이 있다. 연구 목적을 달성하기 위해, 기존에 제시된 AI 윤리 지침들에 대한 선행연구 분석을 통해 AI의 교육적 활용을 위한 윤리적 고려 요소를 추출하여 구체적 정의를 정리한 후, 이에 기초하여 AI의 교육적 활용을 위한 관련 주체들의 윤리지침 초안을 개발하였다. 개발된 초안의 타당성을 확인하기 위해 네 집단(교육프로그램 설계ㆍ개발자, 연구자, 교수자, 학습자)으로 구성된 델파이 조사를 두 차례 실시하여 윤리적 고려 요소의 중복성을 제거하고, 관련 주체 입장에서의 구체적인 윤리 요소별 해석을 반영하여 수정하였다. 최종적으로 AI의 교육적 활용을 위한 윤리 지침에 포함될 6개 영역(투명성, 정의와 공정, 비악의성, 책임, 자유와 자율, 공존), 28개 구성요소(투명성, 공정함, 안전, 개인정보 보호, 지속가능성, 연대 등)를 도출하였으며, 교육프로그램 설계ㆍ개발자, 연구자, 교수자, 학습자를 위한 인공지능의 교육적 활용 윤리 지침을 제시하였다.

Abstract

Within the domain of artificial intelligence (AI) and its potential contributions to humanity, concurrent concerns and uncertainties about AI or AI-enabled robots are evident. This research identified a crucial gap, specifically the lack of comprehensive exploration into ethical considerations and the absence of precise guidelines for AI application within educational contexts. The primary objective of this study is to bridge this void by devising ethical guidelines tailored for pivotal educational stakeholders. They include program designers and developers, researchers, instructors, and learners actively engaged in integrating AI for educational purposes. To accomplish this objective, ethical considerations for AI application in education were derived through an analysis of prior research on established AI ethics, organizing specific definitions. An initial draft of ethical guidelines, customized for relevant stakeholders in the educational sphere, was developed. The validation involved a two-step Delphi survey encompassing four distinct groups. This iterative survey effectively eliminated redundancies in ethical considerations and refined them to align with the perspectives of pertinent practitioners, interpreting specific ethical considerations. The study culminated in the identification of six overarching areas—transparency, justice and fairness, nonmaleficence, responsibility, freedom and autonomy, and coexistence—along with 28 components (e.g., transparency, fairness, safety, privacy, sustainability, solidarity, etc.) comprising the ethical guidelines for the educational use of AI. The proposed guidelines furnish a comprehensive framework for ethical practices in the integration of AI into educational settings.

참고문헌 (54)

  1. 관계부처 합동, "사람이 중심이 되는 인공지능(AI) 윤리기준", ~ (2020)
  2. 신뢰할 수 있는 인공지능 실천 전략(안), "관계부처 합동", ~ (2021)
  3. 사람의 성장을 지원하는 「교육 분야 인공지능 윤리원칙」(시안), "교육부", ~ (2022)
  4. 국가정보원, "챗GPT 등 생성형 AI 활용 보안 가이드라인", 국가사이버안보센터, ~ (2023)
  5. 김의중, "인공지능, 머신러닝, 딥러닝 입문" (2018), 위키북스
  6. 인공지능 윤리체계 확립을 위한 정책연구, "문정욱", 과학기술정보통신부, 정보통신정책연구원, ~, pp.정책연구 22-28-01 (2022)
  7. 박현빈, "인공지능윤리와 도덕교육" (2022), 씨아이알
  8. 인공지능의 윤리적 쟁점에 관한 탐색적 연구, "배영임", 경기연구원, ~, pp.기본연구 2022-06 (2022)
  9. 배진아, "인공지능 윤리를 통합한 인공지능 교육 프로그램 개발", 박사, pp.2022
  10. 이성태, "인공지능 윤리로 갓생살기" (2022), 연두에디션
  11. 이상욱, "원칙에서 행동으로-국제인공지능 윤리거버넌스 동향", 인공지능시대의 윤리 국회토론회 (2023)
  12. "AI윤리의 쟁점과 거버넌스 연구" (2021), 이상옥[URL]
  13. 이우권, "인공지능의 윤리적 사용을 위한 정책대안에 관한 연구", 한국정책논집, 20(1), pp.1~15 (2020)
  14. AI 윤리체계 마련 인공지능 윤리 교육 교재 개발, "이현경", 과학기술정보통신부, 정보통신정책연구원, ~, pp.22-28- 02 (2022)
  15. 전창배, "인공지능 윤리개론", pp.1~28 (2021), 커뮤니케이션북스(주)
  16. 전창배, "인공지능 윤리개론", pp.289~309 (2021), 커뮤니케이션북스(주)
  17. AI 챗봇 ‘이루다’ 논란의 이슈 변화와 시사점, "최새솔", 93~101 (2021)
  18. 모바일 미래보고서 2024, "커넥팅랩", 비즈니스북, ~ (2023)
  19. 지능정보사회와 AI윤리, "한국정보통신보안윤리학회", 배움터, ~ (2021)
  20. 홍선주, "Exploring the Potentials of AI Integration into K-12 Education", 교육정보미디어연구, 27(3), pp.875~898 (2021), 한국교육정보미디어학회[DOI]
  21. Alkaissi, H., "Artificial hallucinations in ChatGPT : Implications in scientific writing", Cureus, 15(2) (2023)
  22. Akgun, S., "Artificial intelligence in education : Addressing ethical challenges in K-12 settings", AI and Ethics, 2, pp.431~440 (2022)
  23. Bostrom, N., "Superintelligence : Paths, dangers, strategies" (2014), Oxford University Press
  24. Bostrom, N., "The Cambridge handbook of artificial intelligence", pp.316~334 (2014), Cambridge University Press
  25. Chen, X., "Two decades of artificial intelligence in education", Educational Technology & Society, 25(1), pp.28~47 (2022)
  26. Coeckelbergh, M., "Artificial intelligence : Some ethical issues and regulatory challenges", Technology and Regulation, 2019, pp.31~34 (2019)
  27. Cotton, D. R., "Chatting and cheating: Ensuring academic integrity in the era of ChatGPT", Innovations in Education and Teaching International, pp.1~12 (2023)
  28. Essa, A., "A possible future for next generation adaptive learning systems", Smart Learning Environments, 3(1) (2016)
  29. "High-level expert group on artificial intelligence" (2018)[URL]
  30. Goto, A., "Should we acknowledge ChatGPT as an author?", Journal of Epidemiology, 33(7), pp.333~334 (2023)
  31. Guan, C., "Artificial intelligence innovation in education : a twenty-year data-driven historical analysis", International Journal of Innovation Studies, 4(4), pp.134~147 (2020)
  32. Hwang, G. J., "Vision, challenges, roles and research issues of artificial intelligence in education", Computers and Education : Artificial Intelligence, 1, pp.100001~ (2020)
  33. The AI ethics charter, "IAAE", International Association for Artificial Intelligence and Ethics, ~ (2021)
  34. The ethics guideline for digital human, "IAAE", International Association for Artificial Intelligence and Ethics, ~ (2022)
  35. Kurzweil, R, "Ethics and emerging technologies", pp.393~406 (2005), Palgrave Macmillan
  36. Leveringhaus, A., "What's so bad about killer robots?", Journal of Applied philosophy, 35(2), pp.341~358 (2018)
  37. Lewis, A, "Multimodal large language models for inclusive collaboration learning tasks", Proceedings of the 2022 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies: Student Research Workshop, pp.202~210 (2022)
  38. Li, C., "Natural language generation using deep learning to support MOOC learners", International Journal of Artificial Intelligence in Education, 31(2), pp.186~214 (2021)
  39. Li, Y., "The analysis of research hot spot and trend on artificial intelligence in education", International Journal of Learning and Teaching, 8(1), pp.49~52 (2022)
  40. Mhlanga, D., "Open AI in education, the responsible and ethical use of ChatGPT towards lifelong learning" (2023)
  41. Moor, J. H., "The nature, importance, and difficulty of machine ethics", IEEE Intelligent Systems, 21(4), pp.18~21 (2006)
  42. O’Shea, T, "Learning and teaching with computers: The artificial intelligence revolution" (1986), Prentice Hall Professional Technical Reference
  43. Chatila, R., "The IEEE global initiative for ethical considerations in artificial intelligence and autonomous systems", IEEE Robotics & Automation Magazine, 24(1), pp.110~ (2017)
  44. Russell, S, "어떻게 하면 인간과 공존하는 인공지능을 만들 것인가: AI와 통제 문제" (2021), 김영사
  45. "The ethical framework for AI in education" (2021)[URL]
  46. Selwyn, N., "Digital technologies and the automation of education-key questions and concerns", Postdigital Science and Education, 5, pp.15~24 (2021)
  47. Slade, S., "Learning analytics : Ethical issues and dilemmas", American Behavioral Scientist, 57(10), pp.1509~1528 (2013)
  48. Song Pu, "A bibliometric analysis of worldwide educational artificial intelligence research development in recent twenty years", Asia Pacific Education Review, 21(3), pp.473~486 (2020), 교육연구소[DOI]
  49. Tahiru, F., "AI in education : A systematic literature review", Journal of Cases on Information Technology, 23(1), pp.1~20 (2021)
  50. Tzimas, D., "Ethical issues in learning analytics : a review of the field", Educational Technology Research and Development, 69, pp.1101~1133 (2021)
  51. "First draft of the recommendation on the ethics of artificial intelligence" (2020)[URL]
  52. Weizenbaum, J., "On the impact of the computer on society : How does one insult a machine?", Science, 176(4035), pp.609~614 (1972)
  53. Xu, W., "A systematic review of AI role in the educational system based on a proposed conceptual framework", Education and Information Technologies, 27, pp.4195~4223 (2022)
  54. Zemčík, T., "Failure of chatbot Tay was evil, ugliness and uselessness in its nature or do we judge it through cognitive shortcuts and biases?", AI & SOCIETY, 36, pp.361~367 (2021)

관련 논문AI추천

AI 윤리 기준을 활용한 AI 윤리교육 방안 연구이인재한국초등도덕교육학회 · 초등도덕교육2022 · 제76호“AI 윤리와 교육” 관련 연구 동향 분석김철교육연구소 · 교육문화연구2024 · 제30권 제1호AI 활용 교육의 사회･윤리적 쟁점에 관한 교원의 인식김위정, 김종우교육연구소 · 교육문화연구2024 · 제30권 제3호실천력 강화를 위한 인공지능 윤리 교육 모델배진아, 이정훈, 조정원대한산업경영학회 · 산업융합연구2022 · 제20권 제5호인공지능 윤리 역량 강화를 위한 교사 교육 모형 개발 연구고보경, 임철일한국교육공학회 · 교육공학연구2025 · 제41권 제4호AI 윤리 교육의 필요성에 대한 연구변순용초등교육연구원 · 한국초등교육2020 · 제31권 제3호

이 간행물의 다른 논문 (16건)

인공지능 튜터링 시스템 기반초등학교 수학 수업 설계원리 및 지침 개발최서연, 임철일pp. 969-1009ChatGPT를 활용한 수학 플립러닝 사례연구: 학습자의 참여를 중심으로박수민, 윤정은, 권오남pp. 1011-1047ChatGPT와의 협업을 통한포스트휴머니즘 관점의 미래교육 시나리오 도출오희정, 이은택, 임상훈pp. 1049-1080국내외 협력학습분석학(Collaboarative Learning Analytics) 연구 동향에 대한 체계적 문헌고찰임규연, 정유진, 이다혜, 김혜준, 진명화pp. 1081-1121MOOC에서 사전 인출 연습과 피드백 유형이 학업성취와 학업 지속 의향 및 메타인지적 판단에 미치는 영향서일보pp. 1123-1151
원문 보기