본문 바로가기
KERD
논문KCI 등재

인공지능 윤리의 두 가지 가치

The Two Values of Artificial Intelligence Ethics

박도현
법학연구원 (Legal Research Institute of Korea University)|2021.04|法學論文集|제45권 제1호|pp. 89-118|DOI 10.22853/caujls.2021.45.1.89

0

조회

0

다운로드

8

인용

0

참고문헌

키워드

인공지능Artificial Intelligence내재적 가치도구적 가치Instrumental ValueIntrinsic Value윤리 세탁윤리 비난Ethics WashingEthics Bashing

초록

최근 사회적 문제로 대두된 이루다 사건이 2016년도에 발생한 테이 사건과 구조적으로 유사한 사실이 보여주듯, 인공지능 윤리 분야는 급격한 양적 성장세에도 불구하고 올바른 방향으로 나아가고 있는지 의문이 제기되고 있다. 인공지능 윤리를 왜곡하고 있는 대표적 현상 두 가지가 윤리 세탁과 윤리 비난이다. 윤리 세탁은 인공지능 윤리를 면죄부의 수단으로 악용하는 행태를, 윤리 비난은 현실과 괴리된 추상적 논의라고 일축하는 행태를 가리킨다. 윤리 세탁과 윤리 비난이 일어나는 근본적 이유는 인공지능 윤리의 두 가지 가치인 도구적 가치와 내재적 가치가 균형 있게 추구되지 못하는 데 있다. 도구적 가치란 인공지능 윤리가 그것이 초래하는 사회적 문제를 해결하는 수단으로 기능하여 공익에 기여하는 것을 말한다. 내재적 가치란 결과와는 별개로 인공지능 기술이나 그로부터 초래되는 사회적 파급효과를 둘러싼 옳고 그름의 문제를 논의하는 작업 자체가 가지는 의의를 말한다. 세간의 오해와 달리 인공지능 윤리의 두 가지 가치는 반드시 제로섬의 상충관계에 있지 않고, 상보적 관계에 놓일 수 있다. 그러나 현실에서는 인공지능 윤리의 내재적 가치만을 강조하는 근본주의나 도구적 가치만을 강조하는 배타주의라는 양극단적 태도가 종종 발견된다. 이러한 현상으로부터 유발되는 딜레마를 해소하기 위해서는 궁극적으로 인공지능 윤리의 두 가지 가치가 제로섬의 상충관계에 있지 않고 상생할 수 있다는 사고방식을 받아들여야 한다. 기업의 주도나 참여가 학술적 논의의 지평을 확장할 수 있고, 이론적 논의가 정책적 관점을 통해 보지 못한 사각지대를 보완하는 역할을 해줄 수 있기 때문이다. 가령 경험적 전환을 적극적으로 수용하고 문제해결 수단을 다각화하여 도구적 가치를 강화하거나, 이론체계를 확립하고 기저 역량을 강화하여 내재적 가치를 강화함으로써 선순환의 구조를 확립할 수 있다.

Abstract

The field of artificial intelligence ethics is showing various problems. Two representative examples are “ethics washing” and “ethics bashing.” The former refers to the behavior of abusing artificial intelligence ethics as a means of indulgence, and the latter refers to the behavior of condemning it as an abstract discussion that is separate from reality. The fundamental reason why ethics washing and ethical bashing arise is that the two values ​​of artificial intelligence ethics, instrumental value and intrinsic value, are not pursued in a balanced way. Instrumental value refers to the contribution of artificial intelligence ethics to the public interest by functioning as a means to solve the social problems it causes. Intrinsic value refers to the significance of the work itself to discuss the issues of right and wrong surrounding artificial intelligence technology or the social ramifications resulting from it, apart from the results. Contrary to popular misconception, the two values ​​of artificial intelligence ethics are not necessarily in a zero-sum trade-off, but can be placed in a complementary relationship. However, in reality, a bipolar attitude of fundamentalism that emphasizes only the intrinsic value or exclusionism that emphasizes only instrumental value ​​is often found. In order to resolve the dilemma arising from this bipolar attitude, we must accept that the two values ​​of artificial intelligence ethics can coexist. This is because corporate initiatives can expand the horizon of academic discussions, and academic discussions can play a role in complementing the blind spots not seen through a policy perspective. For example, empirical turn can be actively accepted and problem solving means can be diversified to reinforce instrumental values, or theoretical systems can be established and underlying capabilities can be reinforced to establish a virtuous cycle.

참고문헌 (32)

  1. 고학수, "인공지능 윤리규범과 규제 거버넌스의 현황과 과제", 경제규제와 법, 13(1), pp.7~36 (2020), 법학연구소[DOI]
  2. 관계부처 합동, "사람이 중심이 되는 ｢인공지능(AI) 윤리기준｣", ~ (2020)
  3. 김건우, "로봇윤리 vs. 로봇법학: 따로 또 같이", 법철학연구, 20(2), pp.7~44 (2017), 한국법철학회[DOI]
  4. 김효은, "인공지능과 윤리" (2019), 커뮤니케이션북스
  5. 목광수, "과학기술 시대의 윤리 층위 구분과 층위들 사이의 관계 규명: 인공지능 윤리를 중심으로", 범한철학, 98(3), pp.179~208 (2020), 범한철학회[DOI]
  6. 박도현, "인공지능과 자율성의 역학관계", 홍익법학, 20(3), pp.501~538 (2019), 법학연구소[DOI]
  7. 박도현, "인공지능과 해악 – 창발적 해악론을 중심으로 –", 박사, 법학, pp.2021
  8. 손화철, "기술철학에서의 경험으로의 전환: 그 의의와 한계", 철학, (87), pp.137~164 (2006), 한국철학회
  9. 양천수, "인공지능과 윤리 -법철학의 관점에서-", 법학논총, 27(1), pp.73~114 (2020), 법학연구원
  10. 유기훈, "코로나19 공중보건 위기 상황에서의 자유권 제한에 대한 ‘해악의 원리’의 적용과 확장 -2020년 3월 개정「감염병의 예방 및 관리에 관한 법률」을 중심으로-", 의료법학, 21(2), pp.105~162 (2020), 대한의료법학회[DOI]
  11. 이원우, "규제개혁과 규제완화: 올바른 규제정책 실현을 위한 법정책의 모색", 저스티스, (106), pp.355~389 (2008), 한국법학원
  12. 이혜정, "미끄러운 경사길 논증의 유혹: 그 실체의 탐구", 철학연구, 129, pp.267~290 (2014), 대한철학회
  13. 조홍식, "리스크 법 – 리스크관리체계로서의 환경법", 서울대학교 법학, 43(4) (2002)
  14. 최난설헌, "연성규범(Soft Law)의 기능과 법적 효력 - EU 경쟁법상의 논의를 중심으로 -", 법학연구, 16(2), pp.87~123 (2013), 법학연구소
  15. 허유선, "왜 윤리인가: 현대 인공지능 윤리 논의의 조망, 그 특징과 한계", 인간.환경.미래, (24), pp.165~209 (2020), 인간환경미래연구원[DOI]
  16. Barocas, Solon, "Fairness and Machine Learning" (2019)
  17. Beauchamp, Tom L, "Principles of Biomedical Ethics" (2019), Oxford University Press
  18. Bietti, Elettra, "From Ethics Washing to Ethics Bashing: A View on Tech Ethics from Within Moral Philosophy", Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency (2020)
  19. Automated Vehicle Crash Rate Comparison Using Naturalistic Data, "Blanco, Myra", Virginia Tech Transportation Institute, ~ (2016)
  20. Cath, Corinne, "Governing artificial intelligence: ethical, legal and technical opportunities and challenges", Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 376(2133) (2018)
  21. Demiaux, Victor, "How can Humans keep the Upper Hand: The Ethical Matters Raised by Algorithms and Artificial Intelligence", Commission Nationale de l’Informatique et des Libertés, ~ (2017)
  22. White Paper on Artificial Intelligence - A European approach to excellence and trust, "European Commission", ~ (2020)
  23. European Commission High-Level Expert Group on Artificial Intelligence, "Ethics Guidelines for Trustworthy AI", ~ (2019)
  24. Assessment List for Trustworthy Artificial Intelligence (ALTAI) for Self-assessment, "European Commission High-Level Expert Group on Artificial Intelligence", ~ (2020)
  25. Floridi, Luciano, "Translating Principles into Practices of Digital Ethics: Five Risks of Being Unethical", Philosophy & Technology, 32(2) (2019)
  26. Floridi, Luciano, "AI4People - An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations", Minds and Machines, 28(4) (2018)
  27. Goodall, Noah J., "Ethical Decision Making during Automated Vehicle Crashes", Transportation Research Record, 2424(1) (2014)
  28. McCurry, Justin, "South Korean AI chatbot pulled from Facebook after hate speech toward minorities", The Guardian, ~ (2021)
  29. Mittelstadt, Brent, "Principles alone cannot guarantee ethical AI", Nature Machine Intelligence, 1(11) (2019)
  30. Müller, Vincent C., "Stanford Encyclopedia of Philosophy" (2020)
  31. Guidance for Regulation of Artificial Intelligence Applications, Memorandum for the Heads of Executive Departments and Agencies, "Vought, Russell T.", ~ (2020)
  32. Winfield, Alan F. T., "Ethical governance is essential to building trust in robotics and artificial intelligence systems", Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 376(2133) (2018)

관련 논문AI추천

인간의 윤리로서 인공지능윤리 -인공지능윤리의 가치와 자리-김문정, 심지원, 이은재동서사상연구소 · 철학∙사상∙문화2022 · 제38호왜 윤리인가: 현대 인공지능 윤리 논의의 조망, 그 특징과 한계심지원, 이연희, 허유선인간환경미래연구원 · 인간.환경.미래2020 · 제24호과학기술 시대의 윤리 층위 구분과 층위들 사이의 관계 규명: 인공지능 윤리를 중심으로목광수범한철학회 · 범한철학2020 · 제98권 제3호인공지능 윤리와 로봇 윤리, 차이와 연속성-모두의 윤리로서 인공지능 윤리를 향하여-심지원, 이연희, 허유선동서사상연구소 · 철학∙사상∙문화2020 · 제34호인공지능 윤리의 주요 쟁점과 필수 고려사항박휴용한국열린교육학회 · 열린교육연구2022 · 제30권 제6호인간과 인공지능의 동조: 덕 윤리를 통한 인공지능 윤리의 재구성이희구인문과학연구소 · 인문과학연구논총2023 · 제44권 제3호

이 간행물의 다른 논문 (9건)

인공지능 운영자책임에 관한 유럽의회의 초안 : 평가 및 우리 법에의 시사점김진우pp. 5-56민사소송상 인공지능 법관에 관한 소고김도훈pp. 57-88경찰법상 위험 개념의 구분과 기능 -경찰관직무집행법 제8조의2 신설을 계기로 -김형훈pp. 119-154클라우드컴퓨팅 서비스 침해사고에 대한 입법적 개선방안이정훈pp. 155-185공무집행 중 발생한 주한미군범죄와 「한･미 SOFA」에 따른 경합적 형사재판권에 관한 고찰김성진pp. 187-213
원문 보기