생성형 인공지능의 도덕적 추론 가능성에 대한 윤리적 고찰
Ethical Considerations on the Possibility of Moral Reasoning in Generative Artificial Intelligence
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
과학기술이 급격히 발전하면서 인공지능의 영향력이 사회의 다양한 영역으로 확장되고 있다. 인공지능이 인간의 판단과 의사결정에 깊숙이 관여하고 있는 현대 사회에서 이제는 인공지능이 인간의 도덕적 추론과 의사결정 방식에도 영향을 미칠 수 있다는 새로운 가능성이 제기된다. 인간의 추론에는 여러 한계가 존재한다. 그러나 인공지능의 추론은 동기적 요인에 영향을 받지 않으며, 학습된 대규모 데이터와 알고리즘에 따라 복잡한 정보를 빠르게 처리할 수 있고 적응력도 뛰어나다. ChatGPT와 같은 생성형 인공지능은 주어진 정보를 바탕으로 논리적 추론을 수행하며, 때로는 복잡한 도덕적 질문에 대한 의견도 제시할 수 있다. 하지만 ChatGPT가 제시하는 도덕적 의견은 진정한 의미에서 인간의 도덕과 동등한 가치를 가지는지 의문이다. 이러한 접근에서 본 논문은 생성형 인공지능의 도덕적 추론 가능성에 대한 윤리적 측면과 한계에 대해 탐색하고자 한다.
Abstract
As science and technology rapidly advance, the influence of artificial intelligence (AI) is expanding into various societal domains. In modern society, where AI is deeply involved in human judgment and decision-making processes, a new possibility has emerged that AI can also impact the ways humans conduct moral reasoning and decision-making. Human reasoning has several limitations. However, AI reasoning is not affected by motivational factors and can process complex information quickly and adaptively based on learned big data and algorithms. Generative AI like ChatGPT performs logical reasoning based on provided information and can sometimes offer insights on complex moral questions. Yet, whether the moral opinions presented by ChatGPT truly hold equivalent value to human morality is questionable. This paper explores the ethical aspects and limitations of the moral reasoning capabilities of generative artificial intelligence.
참고문헌 (21)
- 김국현, "생성 인공지능 시대의 인성교육을 위한 인성과 인성교육 개념의비판적 분석", 초등도덕교육, 83 (2023)
- 김상득, "AI 로봇의 도덕 행위자 가능성에 관한 윤리학적 연구", 동서철학연구, 105 (2022)
- 김태훈, "도덕성 발달 이론과 교육" (2014), 인간사랑
- 로렌스 콜버그, "도덕발달의 철학" (2000), 교육과학사
- 로렌스 콜버그, "도덕발달의 심리학" (2001), 교육과학사
- 박형빈, "생성 AI(Generative AI)의 할루시네이션(hallucination)이슈와 윤리적 과제 : 초등 AI 윤리교육에서 활용 가능한 주제를 중심으로", 한국초등교육, 34(4) (2023)
- "호주, 공립학교서도 챗GPT 사용한다…“사립학교와의공정 지켜야”" (2023)[URL]
- 스티븐 호킹, "호킹의 빅 퀘스천에 대한 간결한 대답" (2019), 까치
- 신상규, "인공지능은 자율적 도덕행위자일 수 있는가?", 철학, 132 (2017)
- 웬델 월라크, "왜 로봇의 도덕인가 : 스스로 판단하는 인공지능 시대에 필요한 컴퓨터 윤리의 모든 것" (2014), 메디치
- "이루다가 내뱉은 혐오발언, AI가 지어낸 게 아니다"[URL]
- 임영익, "프레디쿠스" (2019), 클라우드나인
- "뉴욕시 공립교 챗GPT 금지 철회" (2023)[URL]
- "성추행범 몰아가고 기사 날조까지... 선 넘는 챗GPT에 'AI 빨간불'" (2023)[URL]
- Danziger, S., "Extraneous Factors in Judicial Decisions", Proceedings of the National Academy of Sciences, 108(17) (2011)
- "Chomsky on ChatGPT, Education, Russia and the un vaccinated" (2023)[URL]
- Floridi, L., "On the morality of artificial agents", Minds and machines, 14 (2004)
- Himma, K, E., "Artificial Agency, Consciousness, and The Criteria for Moral Agency: What Properties Must an Artificial Agent Have to be a Moral Agent?", Ethics and Information Technology, 11(1) (2009)
- Moor, J. H., "The nature, importance, and difficulty of machine ethics", IEEE intelligent systems, 21 (2006)
- Moshman, D., "From Inference to Reasoning: The Construction of Rationality", Thinking & Reasoning, 10 (2004)
- Nazir, A., "A Comprehensive Survey of ChatGPT:Advancements, Applications, Prospects, and Challenges", Meta-radiology, pp.100022~ (2023)