해명책임은 누구에게 왜 요구되는가?
To Whom is Accountability Required and Why?
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
이 글에서 필자는 우선 “자율주행차량”이나 “책임 있는 인공지능”과 같이 인공지능과 관련하여 우리가 사용하는 용어들은 인공지능의 존재론적 지위와 관련하여 인공지능이 마치 책임의 주체인 것처럼 잘못 이해하게 하는 용어들임을 지적한다. 심지어 해명책임에 대한 논의에서도 해명책임의 주체를 인간이 아닌 인공지능인 것처럼 논의하는 경우도 있다. 필자는 인공지능은 행위의 주체가 될 수 없으며, 따라서 해명책임의 주체는 인공지능이 아니라, 인공지능 서비스에 대해 책임을 져야 하는 사람들이다. 최근 주목되는 설명가능성이나 해석가능성과 같은 인공지능의특성에 대한 논의에서도 해명책임이 중심적인 개념이며, 이들 특성은 해명책임의 이행에 도움을줄 수 있다. 하지만 이 특성이 인공지능이 지녀야 할 필수적인 특성은 아닐 수 있다고 보았다. 해명책임은 어떤 사태의 발생이나 관련된 판단에 대해 설명하는 의무로서 근본적으로는 정당화 근거를 제시하는 인식론적 활동에서 요구되는 의무이다. 따라서 해명책임의 핵심은 판단의 주체가왜 그런 판단을 했는지 그리고 그 판단이 왜 신뢰할 만한 것인지 그 정당화 근거를 제시하는 데 있다. 따라서 인공지능 기술에 기반한 서비스를 제공하는 사람은 해당 기술의 신뢰성이 왜 어떻게담보되는지 설명할 수 있어야 할 것이다.
Abstract
This article points out that the commonly used terms like “autonomous vehicle” or “responsible AI” mislead us to consider AI the subject of responsibility related to the ontological status of AI. Furthermore, there is an opinion where AI is treated to be the subject of accountability even in the discussion of accountability. I argue that AI cannot be the subject of action, nor that of responsibility. Therefore, the subject of accountability is not AI, but persons who are responsible for the service AI provides. Accountability is the key conpet in the discussion on the features of AI, such as explainability and interpretability, which have recently been noted. These features help the fulfillment of accountability. However these features may not be necessary features of AI. Accountability is a duty to explain the occurrence of a situation or its relevant judgment and is a duty required in epistemological activities that should provide a justification. The core of the responsibility for explanation lies in presenting the reasons why the subject of judgment makes such a judgment and why the judgment is reliable. Therefore, those who provide services based on AI technology should be able to explain why and how the reliability of the technology is guaranteed.
참고문헌 (20)
- 고인석, "인공지능이 자율성을 가진 존재일 수 있는가?", 철학, (133) (2017)
- 박신욱, "급부대상으로서의 개인 데이터 : 유럽연합의 디지털 지침 및 독일 민법의 변화에 따른 우리 입법에의 시사점", 민사법학, (100) (2022)
- 신상규, "인공지능은 자율적 도덕행위자일 수 있는가?", 철학, (132) (2017)
- 이대열, "지능의 탄생" (2017), 바다출판사
- 이상용, "인공지능과 법인격", 민사법학, 89 (2019)
- 이중원, "인공지능에게 책임을 부과할 수 있는가? : 책무성 중심의 인공지능 윤리 모색", 과학철학, 22(2) (2019)
- 이한슬, "인공지능 윤리에서 해명가능성 원리", 인문학연구, 35 (2021)
- 장호준, "인공지능에 대한 법인격 부여에 관한 소고(小考) : 민사법적·인간 중심적 관점에 국한하여", 사법 통권, 통권 : 64 (2023)
- 최경석, "인공지능이 인간 같은 행위자가 될 수 있나?", 생명윤리, 21(1) (2020)
- 최경석, "자율성 존중의 원칙: 정치적 이념과 철학적 이념", 윤리학, 3(2) (2014)
- 미래바이오위원회, "바이오 최선진국을 지향하는 대한민국에 대한 통찰과 전망" (2023), 대한민국학술원·한국연구재단
- 유네스코, "생명윤리위원회와 공중의 공적 참여" (2022), 유네스코한국위원회·국가생명윤리정책원
- Callahan, Daniel, "Individual Good and Common Good: A Communitarian Approach to Bioethics", Perspectives in Biology and Medicine, 46(4) (2003)
- Farah, Line, "Assessment of Performance, Interpretability, and Explainability in Artificial IntelligenceeBased Health Technologies: What Healthcare Stakeholders Need to Know", Mayo Clin Proc Digital Health, 1(2) (2023)
- Linardatos, Pantelis, "Explainable AI: A Review of Machine Learning Interpretability Methods", Entropy, 23(1) (2021)[DOI]
- "Recommendation on the Ethics of Artificial Intelligence" (2021)[URL]
- "가천대길병원,인공지능 의사 ‘왓슨’ 현지화 나선다" (2019), 헬스조선[URL]
- "인공지능은 대체재 아닌 보완재 … AI와 공존, 인간에게 달려" (2023), 매일경제[URL]
- "Responsible AI practice"[URL]
- "What is Responsible AI?" (2024)[URL]