본문 바로가기
KERD
논문KCI 등재

왜 윤리인가: 현대 인공지능 윤리 논의의 조망, 그 특징과 한계

Why Ethics is: A Landscape of Modern AI Ethics Debate, Its Features and Limitations

이연희|심지원|허유선
인간환경미래연구원 (Institute of Human, Environment & Future)|2020.04|인간.환경.미래 (Human Beings, Environment and Their Future)|제24호|pp. 165-209|DOI 10.34162/hefins.2020..24.006

1

조회

0

다운로드

45

인용

0

참고문헌

키워드

AI인공지능인공지능 윤리AI Ethics인공지능 원리기술 윤리인공지능 윤리 메타 연구AI PrincipleEthics of TechnologyMeta Study of AI Ethics
주제분류철학

초록

인공지능 기술 및 산업의 발전, 사회적 적용과 함께 인공지능 윤리에 대한 요청도 커지고 있다. 실제로 현재 인공지능 윤리 원리 혹은 권고안의 발간 주체는 기업, 정부, 국제기구, 학계, 종교계로 다방면을 아우른다. 통상 윤리가 기술의 발전을 저해하는 요소로 간주되었던 기술-윤리의 긴장 관계를 고려할 때, 이는 주목할 만한 지점이다. 인공지능 기술과 관련해서 왜 윤리 논의는 더욱 적극적으로 요청되며 증가하는가? 이 물음에 답하기 위해서, 현재의 인공지능 윤리 논의를 전체적으로 조망하고 비판적으로 검토하는 메타 연구가 필요하다. 우리는 현재 기술 수준의 인공지능 윤리 논의에 초점을 맞추어, 주로 3년 이내의 각국 정부, 국제기구, 기업 등 주요 인공지능 행위자가 발간한 인공지능 윤리 문헌을 검토한다. 그리고 이를 통해 오늘날 인공지능 윤리 논의의 특성을 비판적으로 고찰한다. 논문은 현재 인공지능 윤리 논의에서 윤리가 요청되는 목적, 인공지능 윤리 논의의 전반적인 경향을 밝히고, 결론적으로 인공지능 윤리의 나아갈 방향을 제안한다. 인공지능 윤리는 인공지능 기술의 특수성, 사회에 미치는 잠재적 영향력, 산업 기반 마련을 위해 다방면에서 요청된다. 그러나 이들 논의는 반복적이고 중복적인 용어로 인한 인공지능 윤리 접근성의 저하, 윤리의 도구화, 윤리 원리 및 권고안의 실효성 약화, 논의 주체의 제한과 다양성 결여, 원리론 자체의 한계, 학술 연구의 부족, 윤리와 기술 관계에 대한 제한적 이해 등의 경향을 갖는다. 인공지능 윤리는 이러한 한계를 보완하며 다양한 후속 연구 및 논의로 확장되어야 할 것이다. 이를 위해 먼저 ‘인공지능 윤리’가 지시하는 바가 명확해져야 한다. 향후 ‘인공지능 윤리학’은 윤리가 기술의 기획, 형성, 배치 등에 이미 녹아있음을 자각하고 기술의 개발 및 사회 도입에 앞서서, 그리고 기술의 전체 단계와 함께 수행되어야 할 것이다.

Abstract

Despite the tension of a technology-ethics that ethics generally regard as a inhibitor to the development of technology, why is ethical discussions more actively requested and increased regarding artificial intelligence technology? In order to answer this question, a meta-research is needed to look at and critically review the current discussion of artificial intelligence ethics as a whole. Focusing on discussing artificial intelligence ethics at the current technology level, we review artificial intelligence ethics literature published mainly by major artificial intelligence actors such as governments, international organizations and companies in each country mainly the last three years. And through this, we critically examine the characteristics of today's discussions on artificial intelligence ethics. The paper reveals the purpose for which ethics is requested at present in the discussion of artificial intelligence ethics, the overall trend of artificial intelligence ethics discussion, and in conclusion, ‘artificial intelligence ethics’ will have to be carried out with the whole stage of technology, recognizing that ethics are already melted in the planning, formation and deployment of technology, prior to the development and application of the society of technology.

참고문헌 (49)

  1. 신뢰 가능 AI 구현을 위한 정책 방향-OECD AI 권고안을중심으로, "김동현", 한국정보화진흥원, ~, pp.IT&Future Strategy, 2 (2019)
  2. 김형주, "인공지능인문학: If의 미래학에서 As-If의 철학으로", 철학연구, 151, pp.109~134 (2019), 대한철학회[DOI]
  3. 김형주, "인공지능 철학 국내연구 동향 분석 —인공지능 철학의 생장점에서—", 인공지능인문학연구, 1, pp.149~170 (2018), 인문콘텐츠연구소[DOI]
  4. 김형주, "‘인공지능’과 ‘인간지능’ 개념에 대한 철학적 분석 시도 -맥카시와 칸트의 지능개념을 중심으로-", 철학탐구, 43, pp.161~190 (2016), 중앙철학연구소[DOI]
  5. 대한민국 정부, "대한민국 2019 AI 국가 전략", 대한민국 정책브리핑, ~ (2019)
  6. 손화철, "인공지능 시대의 과학기술 거버넌스", 철학사상, (68), pp.267~299 (2018), 철학사상연구소[DOI]
  7. 4차산업혁명시대 산업별 인공지능 윤리의 이슈 분석및 정책적 대응방안 연구, "정보통신정책연구원", ~ (2018)
  8. 허유선, "인공지능에 의한 차별과 그 책임 논의를 위한 예비적 고찰 -알고리즘의 편향성 학습과 인간 행위자를 중심으로-", 한국여성철학, 29, pp.165~210 (2018), 한국여성철학회[DOI]
  9. 김시형, "학문윤리학 Moral als Preis der Moderne" (2013), 시와진실
  10. 울리히 벡, "글로벌 위험사회" (2010), 도서출판길
  11. 박소영, "도덕철학의 기초" (2006), 나눔의집
  12. Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-based Approaches to Principles for AI, "Fjeld, Jessica", Berkman Klein Center for Internet & Society, ~ (2020)
  13. Floridi, Luciano, "Translating principles into practices of digital ethics: five risks of being unethical", Philosophy & Technology, 32(2), pp.185~193 (2019)
  14. Floridi, Luciano, "A unified framework of five principles for AI in society", Harvard Data Science Review, 1(1) (2019)
  15. Jobin, Anna, "Artificial Intelligence: the global landscape of ethics guidelines", arXiv preprint arXiv:1906.11668, ~ (2019)
  16. McCarthy, John, "A proposal for the dartmouth summer research project on artificial intelligence, august 31, 1955", AI magazine, 27(4), pp.12~12 (2006)
  17. Samuel, Arthur L., "Some moral and technical consequences of automation a refutation", Science, 132(3429), pp.741~742 (1960)
  18. Discriminating Systems Gender, Race, and Power in AI, "West, Sarah Myers", AI Now Institute, 1~33 (2019)
  19. Wiener, Norbert, "Some moral and technical consequences of automation", Science, 131(3410), pp.1355~1358 (1960)
  20. Hagendorff, Thilo, "The ethics of AI ethics--an evaluation of guidelines", arXiv preprint arXiv:1903.03425, ~ (2019)
  21. Whittlestone, Jess, "The role and limits of principles in AI ethics: towards a focus on tensions", Proceedings of the 2019 AAAI, 2019, 195~200
  22. Principled artificial intelligence: Mapping consensus in ethical and rights-based approaches to principles for AI, "Fjeld, Jessica", Berkman Klein Center Research, ~ (2020)
  23. Taylor, Charles, "Sources of the Self: The Making of the Modern Identity" (1989), Harvard University Press
  24. The Vatican, "AI Rome Call for AI Ethics" (2020), The Vatican
  25. Zeng, Yi, "Linking Artificial Intelligence Principles", the Proceedings of the AAAI Workshop on Artificial Intelligence Safety (2019)
  26. EU guidelines on ethics in artificial intelligence: Context and implementation, "Madiega, T.", European Parliamentary Research Service, ~ (2019)
  27. AI NOW Report 2017, "Campolo, Alex", AI Now Institute, ~ (2017)
  28. Crawford, Kate, "AI NOW Report 2016" (2016), AI Now Institute
  29. AI Now 2019 Report, "Crawford, Kate", AI Now Institute, ~ (2019)
  30. Preparing for the Future of Artificial Intelligence, "Executive Office of the President National Science and Technology Council Committee on Technology", Executive office of the president, ~ (2016)
  31. OECD, "Artificial Intelligence in Society" (2019), OECD Publishing
  32. McCorduck, Pamela, "Machines Who Think : A Personal Inquiry into the History and Prospects of Artificial Intelligence" (2004), CRC Press
  33. AI NOW Report 2018, "Whittaker, Meredith", AI Now Institute, ~ (2018)
  34. "디지털 전환과 노동의 미래 로봇, 디지털 경제와 자본주의의 미래(4)" (2017)[URL]
  35. "인공지능(AI) 시장 글로벌 동향" (2019)[URL]
  36. "카카오 알고리즘 윤리 헌장" (2018)[URL]
  37. "Beijing AI Principles" (2019)[URL]
  38. "How Artificial Intelligence is Transforming the World" (2018)[URL]
  39. "DeepMind Ethics & Society Principles" (2017)[URL]
  40. "Ethics Guidelines for Trustworthy AI" (2019)[URL]
  41. "Artificial Intelligence at Google: Our Principles" (2018)[URL]
  42. "Microsoft AI principles" (2018)[URL]
  43. "OpenAI Charter" (2018)[URL]
  44. "Principles for Trust and Transparency" (2018)[URL]
  45. "Ethically Aligned Design: A Vision for Prioritizing Human Well-Being with Autonomous and Intelligent Systems First Edition" (2019)[URL]
  46. "AI Policy Principles" (2017)[URL]
  47. "Tenets" (2016)[URL]
  48. "The Montreal Declaration for a Responsible Development of Artificial Intelligence" (2018)[URL]
  49. "The problem with AI ethics" (2019)[URL]

관련 논문AI추천

인간의 윤리로서 인공지능윤리 -인공지능윤리의 가치와 자리-김문정, 심지원, 이은재동서사상연구소 · 철학∙사상∙문화2022 · 제38호인공지능 윤리 연구에 관한 체계적 문헌고찰임미가한국윤리학회 · 倫理硏究2021 · 제1권 제135호인공지능 윤리의 주요 쟁점과 필수 고려사항박휴용한국열린교육학회 · 열린교육연구2022 · 제30권 제6호인공지능 윤리와 로봇 윤리, 차이와 연속성-모두의 윤리로서 인공지능 윤리를 향하여-심지원, 이연희, 허유선동서사상연구소 · 철학∙사상∙문화2020 · 제34호인공지능윤리학의 메타윤리적 접근이상희한국초등도덕교육학회 · 초등도덕교육2022 · 제76호AI 윤리 기준을 활용한 AI 윤리교육 방안 연구이인재한국초등도덕교육학회 · 초등도덕교육2022 · 제76호

이 간행물의 다른 논문 (5건)

『명리탐』의 합칭지명合稱之名 연구강상진pp. 3-36통치하도록 강제 당하는 철학자는 행복할까?: 플라톤 『국가』에서 철학자에 대한 강제 문제이종환pp. 37-71플라톤 『국가』에서 철학자의 순수한 즐거움구교선pp. 73-102에우리피데스의 『탄원하는 여인들』과 아테네 민주정: 아드라스토스와 페리클레스의 장례연설 비교를 중심으로장시은pp. 103-131디지털 미디어 시대의 ‘유년기 소멸’ 개념의 재고이동후pp. 133-164
원문 보기