본문 바로가기
KERD
논문KCI 등재

신뢰할 수 있는 인공지능의 이론적 고찰

A Theoretical Study on Trustworthy Artificial Intelligence

박도현
한국법철학회 (Korean Association Of Legal Philosophy)|2022.08|법철학연구 (Korean Journal of Legal Philosophy)|제25권 제2호|pp. 321-364

0

조회

0

다운로드

5

인용

0

참고문헌

키워드

인공지능거버넌스신뢰성Artificial IntelligenceGovernanceRisk Management위험관리기술적 위험사회적 위험TrustworthinessTechnical RiskSocial Risk
주제분류법학

초록

인공지능의 편익을 극대화하고 해악과 위험을 최소화하기 위해 국내외에서 다양한 거버넌스 논의가 이어지고 있다. 오늘날 인공지능 거버넌스의 중심에는 신뢰성이라는 개념이 자리 잡고 있는데, 신뢰성을 이루는 하부 구성요소에 관한 실무적 차원의 논의가 활발한 것과는 달리 전체를 아우르는 이론적 차원의 논의는 부족한 상황이다. 이는 신뢰할 수 있는 인공지능 거버넌스의 현재와 미래에 대한 체계적 이해와 비판적 성찰을 어렵게 만들고 바람직한 법정책적 대안의 제시를 방해할 우려가 있다. 본고는 이러한 문제의식을 바탕으로 인공지능 신뢰성의 함의를 규명하고 이로부터 어떠한 시사점을 얻을 수 있는지에 대한 이론적 차원의 논의를 진행하였다. 인간 사회의 신뢰성 개념은 주로 선의지에 기초한 호혜성을 발휘하여 근원적 불확실성을 줄이는 데 초점을 두고 있다. 이는 전통적 규칙 기반 인공지능맥락에서는 유의미한 역할을 할 수 있지만, 주로 의도성 대신 결과와 결부된 불확실성이 부각되는 딥러닝 인공지능 맥락에는 그대로 적용되기가 어렵다. 이에 따라 후자에 대해서는 독자적 신뢰성 이론이 새로이 정립될 필요가 있다. 이러한 결과 기반 신뢰성 이론의 핵심에는 불확실성을 줄이기 위한 위험관리 체계의 정립이 자리 잡고 있다. 공학 분야에서 전통적으로 논의된 기술적 위험의 경우 이미 다양한 위험관리 방법론이 정립되어 있으므로 이를 적극적으로 활용할 수 있고, 실제로도 그러한 상황이다. 반면 딥러닝 인공지능이 만들어 내는 사회적 위험의 경우 인간의 정성적 가치와 결부된 것이어서 기존의 정량적 위험관리 방법론을 그대로 적용하기가 쉽지 않다. 이에 대해 인적 접근과 기술적 접근의 고도화라는 두 가지 대안이 제시되고 있는데, 어느 하나의 전적인 우위를 인정하는 대신 양자를 포용하는 융합적 사고를 지향할 필요가 있다.

Abstract

There have been growing discussions on establishing desirable artificial intelligence (AI) governance to maximize benefits and minimize harm and risk of AI. Today, the concept of trustworthiness is at the heart of AI governance. However, unlike active practical discussions on the sub- components of trustworthiness, fundamental discussions are insufficient. This may make it difficult to systematically understand and critically reflect on the present and future of trustworthy AI governance and may hinder the creation of desirable legal policies. Based on the awareness of these problems, this paper examines the theories of AI trustworthiness and discusses their implications. In human society, the concept of trustworthiness focuses mainly on reducing fundamental uncertainty by exercising reciprocity based on good will. While this may play a significant role in traditional rule-based AI contexts, it is difficult to apply it to deep learning AI, where uncertainty related to results rather than intentions is mainly highlighted. Accordingly, it is necessary to establish a new trustworthiness theory based on the results. The establishment of a risk management system to reduce uncertainty is at the core of this result-based trustworthiness theory. In the case of technical risks, which have been traditionally discussed in the engineering field, various risk management methodologies have already been established. On the other hand, in the case of social risks created by deep learning AI, it is not easy to apply the existing quantitative risk management methodologies because they are related to human qualitative values. In response, two alternatives have been proposed: human-in-the-loop and technological advancement. Instead of acknowledging the supremacy of either one, we should have convergent thinking that embraces both.

참고문헌 (46)

  1. 데이비드 데스테노, "신뢰의 법칙" (2018), 웅진지식하우스
  2. 전중환, "진화한 마음" (2019), 휴머니스트
  3. 최정규, "이타적 인간의 출현" (2009), 뿌리와이파리
  4. 한상기, "신뢰할 수 있는 인공지능" (2021), 클라우드나인
  5. 고학수, "인공지능 윤리규범과 규제 거버넌스의 현황과 과제", 경제규제와 법, 13(1), pp.7~36 (2020), 법학연구소[DOI]
  6. 김건우, "로봇윤리 vs. 로봇법학: 따로 또 같이", 법철학연구, 20(2), pp.7~44 (2017), 한국법철학회[DOI]
  7. 김길수, "인공지능의 신뢰에 관한 연구", 한국자치행정학보, 34(3), pp.21~41 (2020), 한국자치행정학회[DOI]
  8. 김도균, "‘불간섭으로서의 자유’와 ‘비예속상태로서의 자유’ -한국사회의 자유담론과 관련해서-", 법과사회, (39), pp.237~267 (2010), 법과사회이론학회
  9. 김도균, "집합행동, 신뢰, 법- 공적 신뢰의 토대에 관한 고찰 -", 서울대학교 법학, 54(3), pp.543~599 (2013), 법학연구소
  10. 김시윤, "사회자본과 경제성장에 대한 비판적 고찰 -신뢰 변수를 중심으로-", 한국행정논집, 20(4), pp.1067~1084 (2008), 한국정부학회
  11. 김이수, "과학기술정책에서 혁신정책도구가 인공지능 신뢰성에 미치는 영향에 관한 탐색 연구 - 인공지능 윤리의 조절효과를 중심으로 -", 한국자치행정학보, 34(2), pp.329~352 (2020), 한국자치행정학회[DOI]
  12. 박도현, "인공지능과 자율성의 역학관계", 홍익법학, 20(3), pp.501~538 (2019), 법학연구소[DOI]
  13. 박도현, "인공지능과 해악―창발적 해악론을 중심으로", 박사, pp.2021
  14. 박도현, "인공지능 윤리의 두 가지 가치", 法學論文集, 45(1), pp.89~118 (2021), 법학연구원[DOI]
  15. 박도현, "인간 편향성과 인공지능의 교차", 서울대학교 법학, 63(1), pp.139~175 (2022), 법학연구소[DOI]
  16. 심우민, "인공지능의 발전과 알고리즘의 규제적 속성", 법과사회, (53), pp.41~70 (2016), 법과사회이론학회
  17. 양천수, "인공지능과 윤리 -법철학의 관점에서-", 법학논총, 27(1), pp.73~114 (2020), 법학연구원
  18. 이상용, "인공지능과 법인격", 민사법학, 89, pp.3~49 (2019), 한국민사법학회[DOI]
  19. 과학기술정보통신부, "2022 신뢰할 수 있는 인공지능 개발안내서(안)", ~ (2022)
  20. 관계부처 합동, "사람이 중심이 되는 인공지능을 위한 신뢰할 수 있는 인공지능 실현전략(안)", ~ (2021)
  21. 인공지능과 신뢰(Trust): 이슈 및 대응방안, "김문구", ~, pp.ETRI Insight Report 2017-13 (2017)
  22. Axelrod, Robert, "The Evolution of Cooperation" (1984), Basic Books
  23. Beauchamp, Tom L, "Principles of Biomedical Ethics" (2019), Oxford University Press
  24. Fukuyama, Francis, "Trust: The Social Virtues and the Creation of Prosperity" (1996), Free Press
  25. Putnam, Robert D, "Making Democracy Work: Civic Traditions in Modern Italy" (1993), Princeton University Press
  26. Yudkowsky, Eliezer, "Creating Friendly AI 1.0: The Analysis and Design of Benevolent Goal Architectures" (2001), The Singularity Institute
  27. Fehr, Ernst, "Fairness and Retaliation : The Economics of Reciprocity", Journal of Economic Perspectives, 14(3) (2000)
  28. Floridi, Luciano, "Translating Principles into Practices of Digital Ethics : Five Risks of Being Unethical", Philosophy & Technology, 32(2) (2019)
  29. Floridi, Luciano, "On the Morality of Artificial Agents", Minds and Machines, 14(3) (2004)
  30. Gasser, Urs, "A Layered Model for AI Governance", IEEE Internet Computing, 21(6) (2017)
  31. Hamilton, William D, "The Evolution of Altruistic Behavior", The American Naturalist, 97(896) (1963)
  32. Nowak, Martin A., "Five Rules for the Evolution of Cooperation", Science, 314(5805) (2006)
  33. Offe, Claus, "Democracy and Trust" (1999), Cambridge University Press
  34. Rhodes, R. A. W., "The New Governance : Governing without Government", Political Studies, 44(4) (1996)
  35. Thiebes, Scott, "Trustworthy artificial intelligence", Electronic Markets, 31(2) (2021)
  36. Winfield, Alan F. T, "Ethical Governance is Essential to Building Trust in Robotics and Artificial Intelligence Systems", Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 376(2133) (2018)
  37. Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions: A Digital Single Market Strategy for Europe, "European Commission", ~, pp.COM(2015) 192 Final (2015)
  38. European Commission, "Ethics Guidelines for Trustworthy AI", ~ (2019)
  39. European Commission, "WHITE PAPER: On Artificial Intelligence―A European Approach to Excellence and Trust", ~ (2020)
  40. European Commission, "Assessment List for Trustworthy Artificial Intelligence (ALTAI) for Self-assessment", ~ (2020)
  41. Future of Life Institute, "Asilomar AI Principles", ~ (2017)
  42. NIST, "AI Risk Management Framework: Initial Draft", ~ (2022)
  43. Recommendation of the Council on Artificial Intelligence, "OECD", ~, pp.OECD (2019), LEGAL[DOI]
  44. Trust and Artificial Intelligence, "Stanton, Brian", ~, pp.Draft NISTIR 8332 (2021)
  45. American Artificial Intelligence Initiative: Year One Annual Report, "The White House Office of Science and Technology Policy", ~ (2020)
  46. The AI Index Report 2022 Annual Report, "Zhang, Daniel", AI Index Steering Committee, Stanford Institute for Human-Centered AI, Stanford University, ~ (2022)

관련 논문AI추천

인공지능 거버넌스에서 신뢰 개념에 대한 고찰 및 정책 유형화 연구김수지, 우지숙법학연구소 · 경제규제와 법2024 · 제17권 제2호인공지능 규율에 있어 위험기반 접근 방식의 적합성 고찰남구현법학연구원 · 법학논총2023 · 제36권 제1호인공지능의 신뢰에 관한 연구김길수한국자치행정학회 · 한국자치행정학보2020 · 제34권 제3호인공지능의 사회적 수용성과 법제도의 기능적 관계에 관한 소고윤혜선법학연구소 · 경제규제와 법2021 · 제14권 제1호신뢰의 관점에서 본 인공지능 규제이제희법학연구원 · 법학논총2025 · 제32권 제2호인공지능 통제수단으로서 주요국 규제 입법의 동향과 시사점김법연유럽헌법학회 · 유럽헌법연구2023 · 제42호

이 간행물의 다른 논문 (11건)

사법판결은 정치적인가?김정오pp. 15-62최근 대법원 전원합의체 판결에 있어 해석논거 투입과 의견분기의 양상에 대한 비판적 분석이계일pp. 63-116정치의 사법화 시대의 헌법재판 ―‘헌법적 대화’ 이론을 중심으로―박종현pp. 117-162‘분노하는 인간’(Homo Iracundos)에 대한 법철학적 대응 ―플라톤, 아리스토텔레스, 뤼시아스, 누스바움을 중심으로―윤진숙, 장미성pp. 165-192사법판단과 정치 ―미국에서의 법이론적 논의를 단초로―강일신pp. 193-216
원문 보기