생성 AI(Generative AI)의 할루시네이션(hallucination) 이슈와 윤리적 과제: 초등 AI 윤리교육에서 활용 가능한 주제를 중심으로
Hallucination Issues and Ethical Challenges of Generative AI: Focusing on Topics Applicable to Elementary AI Ethics Education
0
조회
0
다운로드
11
인용
0
참고문헌
키워드
초록
생성 AI는 텍스트, 이미지, 오디오 등 다양한 형태의 콘텐츠를 생성하고 조작하는 기술을 말한다. 이 기술은 딥러닝 알고리즘과 대용량 데이터의 사용으로 발전하였으며, 컴퓨터 비전, 자연어 처리, 음성 인식 등 다양한 분야에서 혁명적인 변화를 가져왔다. 그러나 이 기술의 발전과 함께 윤리적 문제도떠오르고 있으며, 이 중에서도 ‘할루시네이션’ 현상이나 효과가 주목받고 있다. 이는 생성 AI가 현실적이고 사실적인 콘텐츠를 만들어낼 때 발생하는 현상으로 가상과 현실의 경계를 모호하게 만들고 사실이 아닌 것을 사실로 받아들이게 만들 수 있다는 문제를 안고 있다. 이 연구의 주요 목적은 생성 AI 의 할루시네이션 현상을 이해하고 분석하여, 이 현상이 어떻게 발생하며 어떤 영향을 미치는지를 확인하고, 이와 관련된 윤리적 문제를 식별하며 대응 방안을 모색하는 것이다. 생성 AI의 사용과 개발에대한 윤리적 관점을 탐구하여 초등학생들을 위한 AI 윤리교육에서 활용 가능한 ‘생성 AI 윤리교육 주제’들을 제안하고자 했다. 생성 AI 윤리교육 주제는 초등학생들을 위한 ‘AI 윤리교육’에 유용하게 적용할 수 있는 주제들이다. 초등학생들에게 생성 AI의 윤리적 쟁점과 적절한 사용 방법을 가르치는 데필요한 것으로서 데이터 개인 정보 보호, 편견과 공정성, 투명성과 책임, AI 생성 콘텐츠에 대한 의존, 감정 조작과 비판적 사고, 창조 활동에 미치는 영향, AI 생성 콘텐츠의 윤리적 사용을 위한 기준, 표절 및 신뢰성 문제 등과 같은 주제들을 제시했다. 이들을 생성 AI 윤리교육 표제 아래 초등학교 현장에서 다룰 수 있을 것이다. 아울러 이러한 주제들은 학생들의 AI 리터러시, 비판적 사고, AI 윤리인식및 AI 윤리감수성 함양에도 기여할 것이다. 이러한 논의를 통해 미래의 AI 연구, 설계, 개발 및 사용에 AI의 안전한 개발 및 사용 그리고 도덕적 고려 사항을 포함시킬 수 있으며, 초등학생들이 AI의 활용과 함께 AI 기술이 인간의 삶에 야기하는 윤리적 문제들에 대한 논의를 시작하도록 도울 것이다.
Abstract
Generative artificial intelligence (AI) is a technology capable of generating and manipulating various forms of content, such as text, images, and audio. This technology has evolved through the use of deep-learning algorithms and extensive datasets, leading to revolutionary changes in various fields, including computer vision, natural language processing, and speech recognition. However, with the advancement of generative AI, ethical issues have emerged, particularly the phenomenon of “hallucination.” Hallucination in generative AI occurs when the technology generates content that blurs the boundaries between reality and virtuality, potentially leading to the acceptance of false information as truth. This study primarily aimed to comprehend and analyze hallucination in generative AI and elucidate its mechanism and impact. Additionally, this study aimed to identify ethical challenges associated with this phenomenon and provide possible solutions. This study also explored the ethical perspective of using and developing generative AI and proposed topics relevant to AI ethics education for elementary-school students. The proposed topics are essential for teaching elementary-school students about ethical issues surrounding AI and its responsible use and include the following: data privacy, bias and fairness, transparency and accountability, reliance on generative AI content, emotional manipulation, critical thinking, impact on creative activities, ethical guidelines for AI content, plagiarism, and reliability. These topics can be addressed in elementary AI ethics education, thereby contributing to students’ AI literacy, critical thinking skills, and ethical awareness. Through these discussions, considerations for the safe development and use of AI and ethics can be incorporated into future AI research, design, development, and deployment. This will also enable elementary-school students to begin discussions about the ethical issues arising from the integration of AI technology into human life.
참고문헌 (31)
- 박형빈, "인공지능윤리와 도덕교육" (2022), 씨아이알
- 한국인터넷진흥원, "Kisa Insight Digital & Sequrity Policy, 3" (2023), 한국인터넷진흥원
- Alkaissi, H., "Artificial hallucinations in ChatGPT : implications in scientific writing", Cureus, 15(2), pp.1~4 (2023)
- Aydın, Ö., "Is ChatGPT leading generative AI? What is beyond expectations?. What is beyond expectations", Academic Platform Journal of Engineering and Smart Systems, 11(3), pp.118~134 (2023)
- Baidoo-Anu, D., "Education in the era of generative artificial intelligence(AI) : Understanding the potential benefits of ChatGPT in promoting teaching and learning", Journal of AI, 7(1), pp.52~62 (2023)
- Bender, E. M., "On the dangers of stochastic parrots: Can language models be too big?", FAccT ‘21: 2021 ACM Conference on Fairness, Accountability, and Transparency, pp.610~623 (2021), Association for Computing Machinery
- Biswas, S., "Role of Chat GPT in Education", Journal of ENT Suregery Research, 1(1), pp.1~3 (2023)
- Brown, T., "Language models are few-shot learners", Advances in Neural Information Processing Systems, 33, pp.1877~1901 (2020)
- Cao, Y., "A comprehensive survey of ai-generated content(aigc) : A history of generative ai from gan to chatgpt", arXiv:2303.04226, 111:1~111:44 (2023)
- Chen, J., "Bias and debias in recommender system : A survey and future directions", ACM Transactions on Information Systems, 41(3), pp.1~39 (2023)
- Cox, C., "ChatGPT : Implications for academic libraries", College & Research Libraries News, 84(3), pp.99~102 (2023)
- Dwivedi, Y. K., "“So what if ChatGPT wrote it?” Multidisciplinary perspectives on opportunities, challenges and implications of generative conversational AI for research, practice and policy", International Journal of Information Management, 71, pp.1~11 (2023)
- Euchner, J., "Generative AI", Research-Technology Management, 66(3), pp.71~74 (2023)
- Gunther Eysenbach, "The Role of ChatGPT, Generative Language Models, and Artificial Intelligence in Medical Education: A Conversation With ChatGPT and a Call for Papers", JMIR Medical Education, 9, pp.e46885~ (2023), JMIR Publications Inc.[DOI]
- Fui-Hoon Nah, F., "Generative AI and ChatGPT : Applications, challenges, and AI-human collaboration", Journal of Information Technology Case and Application Research, 25(3), pp.277~304 (2023)
- Haenlein, M., "Artificial intelligence(AI)and management analytics", Journal of Management Analytics, 6(4), pp.341~343 (2019)
- Rami Hatem, "A Call to Address AI “Hallucinations” and How Healthcare Professionals Can Mitigate Their Risks", Cureus (2023), Springer Science and Business Media LLC[DOI]
- Jovanovic, M., "Generative artificial intelligence : Trends and prospects", Computer, 55(10), pp.107~112 (2022)
- Tiffany H. Kung, "Performance of ChatGPT on USMLE: Potential for AI-assisted medical education using large language models", PLOS Digital Health, 2(2), pp.e0000198~ (2023), Public Library of Science (PLoS)[DOI]
- Li, Z., "The dark side of chatgpt : Legal and ethical challenges from stochastic parrots and hallucination", arXiv preprint arXiv : 2304, 1~3 (2023)
- Madani, A., "Large language models generate functional protein sequences across diverse families", Nature Biotechnology, 41, pp.1~8 (2023)
- Mitchell, M., "The debate over understanding in AI’s large language models", Proceedings of the National Academy of Sciences, 120(13), pp.e2215907120~ (2023)
- Ray, P. P., "ChatGPT : A comprehensive review on background, applications, key challenges, bias, ethics, limitations and future scope", Internet of Things and Cyber-Physical Systems, 3(1), pp.121~154 (2023)
- Sætra, H. S., "Generative AI : Here to stay, but for good?", Technology in Society, 75, pp.1~5 (2023)
- Shen, Y., "ChatGPT and other large language models are double-edged swords", Radiology, 307(2), pp.e230163~ (2023)
- Siau, K., "Artificial intelligence(AI)ethics : Ethics of AI and ethical AI", Journal of Database Management, 31(2), pp.74~87 (2020)
- Susarla, A., "The Janus Effect of Generative AI : Charting the Path for Responsible Conduct of Scholarly Activities in Information Systems", Information Systems Research, 34(2), pp.399~408 (2023)
- Vaswani, A., "Attention is all you need", 31st Conference on Neural Information Processing Systems (NIPS 2017), pp.1~11 (2017), NIPS
- Wang, W., "Image as a foreign language : Beit pretraining for all vision and vision-language tasks", arXiv:2208.10442, ~ (2022)
- "Generative AI and Future" (2022)[URL]