인공도덕성 검사의 가능성
How to Test Artificial Morality
0
조회
0
다운로드
4
인용
0
참고문헌
키워드
초록
이 논문은 현 단계의 인공지능의 도덕성 검사로서 기존의 튜링테스트는 적합하지 않으며 설계, 학습, 실행 등 전체 과정에 걸친 검사가 되어야 한다고 주장한다. 이 논문에서 필자는 기존의 튜링테스트처럼 사후 ‘검사’에 초점을 맞춘 도덕성 튜링테스트는 결국 본래의 튜링테스트의 난점처럼 ‘얼마나 인간을 잘 모방 하는가’에 대한 검사일 수밖에 없다고 주장한다. 기존 튜링테스트는 실행 후의 언어 반응에 대한 검사이며, 설계-제작이라는 실행 전의 과정에 대한 검사를 포섭할 수 없다. 인공지능의 도덕성 검사는 실행 단계 이후의 검사가 아니라 설계 이후의 전체 단계에 걸친 검사로 확장되어야 한다. 이러한 확장은 인공지능 개발과 투명성 간의 딜레마를 야기할 수 있지만, 학습과정 공개가 아니라 인공지능에 설명기능을 내장한 형태로 극복가능하다. 필자는 2절에서 딥러닝 기반의 인공지능 메커니즘에서 야기되는 윤리적 쟁점을 소개하면서 3절에서 자동시스템이 아닌 자율시스템이 된 현재 인공지능(로봇)에서 기존 튜링테스트가 유효한지를 비판적으로 검토한다. 이러한 비판을 바탕으로 4절에서는 기존의 튜링테스트가 딥러닝 기반의 자율시스템의 인공도덕성 검사에 적용되기 어렵고 대신 전 단계에 걸친 검사가 더 적합하다고 주장한다. 5절에서는 미결의 문제로 인공도덕성 적용 기준이 인간의 윤리원칙들이어야 하는지의 문제를 제시한다.
Abstract
This paper examines the conditions for artificial morality test. The original turing test for artificial morality faces a similar difficulty as the original turing test: applying the original turing test to test artificial morality is only to test “how well it imitates human being.” Instead, I suggest that the test for artificial morality could be a test for the whole process including design, learning and output. In section 2, I explain how the deep neural network introduces a black box which is inaccessible to people and induces moral issues. In section 3, I critically examine whether the original Turing test is applicable to autonomous system using deep learning mechanism. In section 4, I identify characteristics of artificial morality test. Based on the four sections, in section 5, I argue that we need an agreement on the question as to whether artificial morality should be based on human morality for the successful test of artificial morality.
참고문헌 (16)
- 이상형, "윤리적 인공지능은 가능한가? - 인공지능의 도덕적, 법적 책임 문제 -", 법과정책연구, 16(4), pp.283~303 (2016), 한국법정책학회[DOI]
- 최용성, "인공적 도덕 행위자에 관한 도덕철학·심리학적 성찰", 윤리교육연구, (46), pp.93~129 (2017), 한국윤리교육학회[DOI]
- Allen, "Prolegomena to Any Future Artificial Moral Agent", Journal of Experimental & Theoretical Artificial Intelligence, 12(3) (2000)
- Arnold, T., "Against the Moral Turing Test: Accountable Design and the Moral Reasoning of Autonomous Systems", Ethics and Information Technology, 18(2), pp.103~115 (2016)
- Bonnefon, J. F., "The Social Dilemma of Autonomous Vehicles", Science, 352(6293), pp.1573~1576 (2016)
- Floridi, L., "On the morality of artificial agents", Minds and Machines, 14(3), pp.349~379 (2004)
- Foot, P., "The Problem of Abortion and the Doctrine of Double Effect", Oxford Review, 5, pp.5~15 (1967)
- Hayes, P., "Turing Test Considered Harmful", IJCAI, (1), pp.972~977 (1995)
- Huang, H. M., "Autonomy Levels for Unmanned Systems (ALFUS) Framework: Safety and Application Issue", Proceedings of the 2007 Workshop on Performance Metrics for Intelligent Systems, pp.48~53 (2007)
- Malle, B. F., "Sacrifice One for the Good of Many? : People Apply Different Moral Norms to Human and Robot Agents", HRI' 15 Proceedings of the Tenth Annual ACM, 2015, 117~124
- Moor, J. H., "Machine Ethics", pp.13~20 (2011), Cambridge University Press
- Russell, S., "Artificial intelligence : A modern approach" (1996), Prentice Hall
- Sample, I, "Computer Says No : Why Making AIs Fair, Accountable and Transparent is Crucial", The Guardian, ~ (2017)
- Searle, J. R., "Minds, brains and science" (1984), Harvard University Press
- Turing, A., "Computing Machinery and Intelligence", Mind, 59(236), pp.433~ (1950)
- Wallach, W., "Moral Machines: Teaching Robots Right from Wrong" (2009), Oxford University Press