인공지능의 설명 가능성 - 책임 공백 문제와 설명을 요구할 권리를 중심으로
Explainability and Aritificial Intelligence
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
인공지능이 경제와 사회 전반에 걸쳐 사용되는 범용기술로 발전하면서 그로 인한 부작용이나 폐해를 방지하려는 규범적 논의가 활발하게 진행 중이다. ‘책무’(accountability)의 개념은 인공지능 의사결정에 대하여 전통적인 도덕적 책임 또는 법적 책임을 적용하려 할 때 발생하는 ‘책임 공백’의 문제를 해결하기 위한 노력의 총체로 이해될 수 있다. 즉, ‘책무’는 인공지능 시스템에 대한 감독(oversight) 또는 감사(accounting), 무과실책임 원칙의 확장 등 다양한 규제적ㆍ법적 수단을 포괄하는 광범위한 개념이다. 그런데 ‘책임 공백’의 문제를 해결하는 다양한 수단 중 가장 주목을 받는 것이 바로 ‘설명 가능성’(explainability)의 요청이다. 이는 인공지능 시스템의 ‘투명성’(transparency) 및 인간에 의한 통제 가능성이라는 측면에서 매우 중요한 것으로 이해되고 있다. 본 문헌에서는 이러한 설명 가능성의 개념과 규범적 함의에 대하여 살펴보았다.
Abstract
As artificial intelligence develops into a general-purpose technology used throughout the economy and society, normative discussions are actively underway to prevent side effects or harmful effects. The concept of accountability can be understood as a whole of efforts to solve the problem of a responsibility that arises when applying traditional moral responsibility or legal responsibility to artificial intelligence decision-making. In other words, ‘accountability’ is a broad concept that encompasses various regulatory and legal means such as oversight or accounting for artificial intelligence systems, and the expansion of the principle of no-fault liability. However, among the various means of solving the problem of responsibility, the request for ‘explainability’ is the most notable. This is understood to be very important in terms of the ‘transparency’ of the artificial intelligence system and the possibility of human control. In this literature, the concept and normative implications of explanability were examined.
참고문헌 (17)
- 고학수, "인공지능 윤리규범과 규제 거버넌스의 현황과 과제", 경제규제와 법, 13(1), pp.7~36 (2020), 법학연구소[DOI]
- 고학수, "인공지능과 차별", 저스티스, 171, pp.199~277 (2019), 한국법학원[DOI]
- 이중기, "자율주행차의 법과 윤리" (2020), 박영사
- 이중원, "인공지능에게 책임을 부과할 수 있는가?: 책무성 중심의 인공지능 윤리 모색", 과학철학, 22(2), pp.79~104 (2019), 한국과학철학회
- Andreas Matthias, "The Responsibility Gap: Ascribing Responsibility for the Actions of Learning Automata", Ethics and Information Technology, 6, pp.175~ (2004)
- Bryce Goodman, "European Union Regulations on Algorithmic Decision-Making and a “Right to Explanation", AI Magazine, 38, pp.50~ (2017)
- Andrew D. Selbst, "Meaningful Information and the Right to Explanation", International Data Privacy Law, 7, pp.233~ (2017)
- David Gunning, "DARPA’s Explainable Artificial Intelligence (XAI) Program", AI Magazine, 40, pp.44~ (2019)
- David Gunning, "Explainable Artificial Intelligence (XAI)" (2017), Defense Advanced Research Projects Agency (DARPA)
- Helen Nissenbaum, "Accountability in a Computerized Society", Science and Engineering Ethics, 2, pp.25~ (1996)
- Isak Mendoza, "The Right not to be Subject to Automated Decisions Based on Profiling", EU Internet Law, 77 (2017)
- Joshua A. Kroll, "Accountable Algorithms", University of Pennsylvania Law Review, 165, pp.633~ (2017)
- Joshua A. Kroll, "The Oxford Handbook of Ethics of AI 181" (2020)
- Luciano Floridi, "Distributed Morality in an Information Society", Science and Engineering Ethics, 19, pp.727~ (2013)
- Sandra Wachter, "Counterfactual Explanations without Opening the Black Box: Automated Decisions and the GDPR", Harvard Journal of Law and Technology, 31, pp.841~ (2017)
- Sandra Wachter, "Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation", International Data Privacy Law, 7, pp.76~ (2017)
- Tim Miller, "Explanation in Artificial Intelligence : Insights from the Social Sciences", Artificial Intelligence, 267, pp.1~ (2019)