본문 바로가기
KERD
논문KCI 등재

자율 AI 책임에 관한 비판적 연구

A Critical Study on Autonomous AI Responsibility

최문기
한국윤리학회 (The Korean Association of Ethics)|2021.12|倫理硏究 (Journal of Ethics)|제1권 제135호|pp. 23-45|DOI 10.15801/je.1.135.202112.23

1

조회

0

다운로드

3

인용

0

참고문헌

키워드

AI GovernanceAI 윤리AI EthicsMachine EthicsAI 거버넌스기계 윤리AI 유형 구분자율 AI 에이전트법적 및 도덕적 책임책임 귀속과 배분Types of AIAutonomous AI AgentsLegal and Moral ResponsibilityAttribution and Allocation of Responsibility
주제분류학제간연구

초록

완전하진 않지만 자율 AI 기술을 장착한 로봇이나 자율주행자동차 등이 스스로 의사결정을 해서 행동할 수 있는 단계에까지 진입하였다. 그래서 “만약 이러한 자율 AI 에이전트가 실수를 할 경우, 누가 어떻게 책임을 져야하는가?” 라는 책임의 주체, 책임 귀속 및 배분, 책임 격차, 정당화 근거 등의 문제가 제기된다. 이러한 문제들을 다루기 위해 본 연구는 1) AI 유형을 구분하고, 논의 전개를 위한 틀을 구성하였다. 그리고 자율 AI 에이전트와 관련된 책임 문제들을 개관하였다. 2) 자율 AI 에이전트의 ‘법적 및 도덕적 책임’ 문제의 선행 논의 조건인 ‘법적 및 도덕적 지위’ 논거를 비판적으로 검토하였다. 3) 자율 AI 에이전트의 기술 행위로부터 발생한 법적 및 도덕적 책임의 주체는 인간임을 전제하는 ‘인간-중심’ 윤리의 관점에서 ‘책임 귀속과 배분’ 과제를 확인하였다. 한편 자율 AI 시스템 및 기계가 엄청난 속도로 진화하고 있고, 특히 미래의 AGI나 ASI 출현 가능성에 대한 우려가 존재하는 상황을 감안한다면, 이와 관련된 법을 제정하고 수정∙보완함은 물론 ‘책임 있고 신뢰할 수 있는 자율 AI 에이전트의 설계 및 관리를 위한 ‘윤리적 거버넌스’ 구축, 그리고 ‘AI 윤리’나 ‘기계 윤리’의 정립도 중요한 과제임을 밝혔다.

Abstract

Industrial robots and self-driving cars equipped with autonomous AI technology have entered the stage where they can do not only ‘machine learning’ as like humans but also make their own decisions and act. Therefore, this study attempts to find the answer about the question of ‘responsibility attribution and allocation’ such as If such an autonomous AI agents makes a mistake, who should be responsible? To this end, specifically, 1) I classify the types of AI, and construct a framework for my discussion. 2) I critically review the grounds of arguments about autonomous AI machine’s legal and moral responsibility. 3) From the human-centered perspective, I suggest that the subject of responsibility can only be humans. And considering the rapid development of autonomous AI systems and machines, especially the possibility of future AGI or ASI emergence, I also conclude it is a very important task to establish ‘AI ethics’, ‘machine ethics’ and ‘AI governance’ to create and manage ‘responsible or reliable’ autonomous AI agents.

참고문헌 (27)

  1. 최문기, "COVID-19 위기 거버넌스에 대한 시스템 접근", 倫理硏究, 1(134), pp.313~336 (2021), 한국윤리학회[DOI]
  2. 崔文沂, "體系倫理에서의 批判的 體系思考와 實踐 問題", 박사, 국민윤리교육, pp.1992
  3. Anderson, Michael, "Machine Ethics:Creating an Ethical Intelligent Agent", AI Magazine, 28(4), pp.15~26 (2007)
  4. Bird, Eleanor, "The ethics of artificial intelligence:Issues and initiatives, EPRS(European Parliamentary Research Service)" (2020), European Union
  5. Bostrom, Nick, "Cambridge Handbook of Artificial Intelligence", pp.1~21 (2011), Cambridge University Press
  6. Bryson, Joanna J., "Of, For, and By the People: The Legal Lacuna of Synthetic Persons", Artificial Intelligence and Law, 25(3), pp.273~291 (2017)
  7. Chesterman, Simon, "Artificial Intelligence and The Problem of Autonomy", Journal on Emerging Technologies, 1(2), pp.210~250 (2020)
  8. Chesterman, Simon, "Artificial Intelligence and The Limits of Legal Personality", International & Comparative Law Quarterly, 69(4), pp.819~844 (2020)
  9. Coeckelbergh, Mark, "Artificial Intelligence, Responsibility Attribution, and a Relational Justification of Explainability", Science and Engineering Ethics, 26, pp.2051~2068 (2020)
  10. Dennett, Daniel C., "Brainstorms: Philosophical Essays on Mind and Psychology", pp.267~287 (1978), Norton
  12. "Ethics of Artificial Intelligence" (2021)[URL]
  13. Hansson, Sven Ove, "How to Perform an Ethical Risk Analysis(eRA)", Risk Analysis, 38(9), pp.1820~1829 (2018)
  14. Iphofen Ron, "Regulating Artificial Intelligence and Robotics: Ethics by Design in a Digital Society", Contemporary Social Science, 16(2), pp.170~184 (2021)
  15. Jones, M. Tim, "Artificial Intelligence: A Systems Approach, Hingham" (2008), Infinity Science Press LLC
  16. Keeling, G., "The Ethics of Automated Vehicles", PhD, pp.2020
  17. Kurzweil, Ray, "The Singularity Is Near: When Humans Transcend Biology" (2005), Viking
  18. Matthias, A., "The Responsibility Gap: Ascribing Responsibility for the Actions of Learning Automata", Ethics and Information Technology, 6(3), pp.175~183 (2004)
  19. Müller, Vincent C., "Stanford Encyclopedia of Philosophy", pp.1~29 (2020), CSLI, Stanford University
  20. Russell, Stuart, "Artificial Intelligence: A Modern Approach" (2003), Prentice Hall
  21. Searle, J. R., "Minds, Brains, and Programs", Behavioral and Brain Sciences, 3(3), pp.417~457 (1980)
  22. Sparrow, Robert, "Killer Robots", Journal of Applied Philosophy, 24(1), pp.62~77 (2007)
  23. Taddeo, Mariarosaria, "How AI Can Be a Force for Good", Science, 361(6404), pp.751~752 (2018)
  24. Tasioulas, John, "First Steps Towards an Ethics of Robots and Artificial Intelligence", Journal of Practical Ethics, 7(1), pp.49~83 (2019)
  25. Report of COMEST on Robotics Ethics, "UNESCO", UNESCO, ~ (2017)
  26. "Artificial intelligence" (2021)[URL]
  27. "Ethics of artificial intelligence" (2021)[URL]

관련 논문AI추천

‘인공지능의 책임’ 쟁점에 대한 비판적 고찰이상헌서강대학교 신학연구소 · 신학과철학2023 · 제45호AI 로봇의 도덕적 책임에 관한 윤리학적 연구김상득한국동서철학회 · 동서철학연구2023 · 제107호인공지능(AI)의 법인격 부여와 위법 행위 책임에 관한 연구김용호한국컴퓨터정보학회 · 한국컴퓨터정보학회논문지2024 · 제29권 제12호자율주행의 책임 문제 - 위임된 자율성과 분산된 책임 -문규민한국동서철학회 · 동서철학연구2022 · 제106호인공지능과 자율성의 역학관계박도현법학연구소 · 홍익법학2019 · 제20권 제3호자율주행자동차의 윤리화의 과제와 전망이상돈, 정채연IT와 법연구소 · IT와 법연구2017 · 제15호

이 간행물의 다른 논문 (8건)

인공지능시대에 도덕적 수월(秀越)의 리더십황종환pp. 1-22인공지능 윤리 연구에 관한 체계적 문헌고찰임미가pp. 47-66대학의 대규모 온라인 공개강좌 활용과 윤리적 쟁점들임상수pp. 67-87아리스토텔레스 ‘시민적 우정’의 도덕교육적 함의정창우, 이기연pp. 89-118J. S. 밀의 ‘삶의 기술’의 ‘분별’에 대한 연구배니나pp. 119-144
원문 보기