인공지능의 윤리: 책무성을 중심으로
Ethics of Artificial Intelligence: Focusing on accountability
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
이 연구목적은 인공지능을 탑재한 자율적 행위자가 가질 수 있는 책무성 개념의 의미를 밝히는 것이다. 이를 위해 책임(responsibility)과 책무(accountability) 개념을 비교하여 윤리적인 인공지능의 가능성을 살펴본다. 책무(accountability)는 최종 결과에 대해 설명할 수 있다는 것을 의미한다. 구체적으로 인공지능 시스템 설계와 제작 단계에서 내부 프로세스 및 상태의 역추적 가능성을 의미한다. 책무는 설명가능성을 말하는데 이는 투명성을 전제한다. 인공지능이 사고가 발생하기 전에 상시적으로 인공지능의 내부 프로세스 상태와 의도나 계획을 사람이 모니터링 할 수 있어야 설명도 가능하기 때문이다. 사람들은 이제 인공지능의 효율성에 만족하지 않고, 공정성, 신뢰성, 정확성을 요구하고 있으며 유럽과 미국은 이것을 이미 강제하고 있다. 이제 우리는 설명가능한 인공지능(eXplainable AI, XAI)에 관심을 가져야 한다.
Abstract
The purpose of this study is to elucidate the meaning of the concept of accountability that autonomous actors equipped with artificial intelligence can have. To this end, we examine the potential of ethical AI by comparing the concepts of responsibility and accountability. Accountability means being able to account for the final result. Specifically, it refers to the possibility of backtracking of internal processes and states in the design and manufacturing stages of artificial intelligence systems. Accountability refers to explainability, which presupposes transparency. This is because the explanation is possible only when a human can monitor the internal process state and intention or plan of artificial intelligence at all times before an accident occurs. People are now dissatisfied with the effectiveness of artificial intelligence, demanding fairness, reliability and accuracy, which Europe and the United States are forcing. Now we have to turn our attention to eXplainable AI(XAI).
참고문헌 (19)
- 김대식, "김대식의 인간 vs 기계" (2016), 동아시아
- 라파엘 카푸로, "로봇윤리" (2013), 어문학사
- 스튜어트 러셀, "인공지능 현대적 접근방식" (2016), 제이펍
- 웬델 월러치, "왜 로봇의 도덕인가" (2014), 메디치미디어
- 山本 清, "アカウンタビリティを考える: どうして｢説明責任｣になったのか" (2013), NTT出版
- Carmona, D., "The AI Organization: Learn from Real Companies and Microsoft’s Journey How to Redefine Your Organization with AI" (2019)
- Dubber, M. D., "The Oxford Handbook of Ethics of AI" (2002)
- Ebers, M., "Algorithmic Governance and Governance of Algorithms, Legal and Ethical Challenges" (2001), Springer
- Feinberg, J., "Reason and Responsibility: Readings in Some Basic Problems of Philosophy" (2002), Wadsworth Publishing
- 변순용, "로봇윤리헌장의 필요성과 내용에 대한 연구", 윤리연구, 1(112), pp.295~319 (2017), 한국윤리학회[DOI]
- 이봉재, "인공지능과 책임의 문제", 대동철학, (37), pp.73~92 (2006), 대동철학회
- Kim, B., "Transparency and accountability in AI decision support: Explaining and visualizing convolutional neural networks for text information", Decision Support Systems (2020)
- Moor, J. H., "Machine Ethics" (2011)
- Nissenbaum, H, "Computing and Accountability", Communications of the Association for Computing Machinery, 37 (1994)
- Pagallo, U, "Apples, oranges, robots: four misunderstandings in today’s debate on the legal status of AI systems", Royal Society, 376 (2018)
- Paige, M. A., "‘Houston, We Have a Lawsuit’: A Cautionary Tale for the Implementation of Value-Added Models for High-Stakes Employment Decisions", Educational Researcher, 49 (2020)
- Shahriari, K., "IEEE standard review—Ethically aligned design: A vision for prioritizing human wellbeing with artificial intelligence and autonomous systems", 2017 IEEE Canada International Humanitarian Technology Conference(IHTC) (2017)
- Sullins, J. P, "When is a Robot a Moral Agent?", International Review of Information Ethics, 6 (2006)
- Chen, Stephen, "Is China’s corruption-busting AI system ‘Zero Trust’ being turned off for being too efficient?", South China Morning Post, ~ (2019)