본문 바로가기
KERD
논문KCI 등재

인공지능 시스템의 다양성 논의, 그 의미와 확장 -인공지능의 편향성에서 다양성까지-

What to consider to widen the discussion regarding diversity in Artificial Intelligence -From bias to diversity in Artificial Intelligence-

허유선
동서사상연구소 (Research Institute for East-West Thought)|2021.01|철학∙사상∙문화 (PHILOSOPHY·THOUGHT·CULTURE)|제35호|pp. 201-234|DOI 10.33639/ptc.2021..35.009

0

조회

0

다운로드

9

인용

0

참고문헌

키워드

AI인공지능다양성Diversity인공지능 윤리AI Ethics인공지능 시스템인공지능 편향성AI BiasAI System
주제분류기타인문학

초록

인공지능의 편향성, 차별 문제와 다양성은 어떻게 연결되는가? 인공지능 시스템에서 다양성은 왜 필요한가?　인공지능 시스템의 다양성 논의가 실효성 있는 것이 되기 위해서는 무엇을 고려해야 하는가? 본 논문은 인공지능 윤리 내 다양성 언급 문헌 및 다수의 사례를 검토하며 인공지능 편향성과 다양성 문제가 사회구조적 차별, 사회적 힘의 배치라는 맥락에서 엮여있음을 보인다. 인공지능 시스템의 다양성 이슈의 맥락을 고려하지 못하는 기술 및 인적 개선은 표면적으로는 다양성을 증진하는 것 같아도 문제를 악화시킬 수 있다. 본래의 맥락과 목적을 고려할 때, 인공지능 시스템의 다양성 논의는 향후 다양성 개념의 이해를 확장해야 할 것이다. 마지막으로 해외를 중심으로 제기·논의된 다양성 이슈가 국내에서는 어떻게 이해되고 논의될 수 있을지를 살펴보고, 한국사회 내 인공지능 시스템의 다양성 논의와 다양성 증진을 위한 실천 과제를 제언한다.

Abstract

What is the relationship between biases, discrimination in artificial intelligence and diversity in artificial intelligence? Why is diversity important in artificial intelligence systems? What should be considered to make the discussion effective? This paper reviews studies and several cases referring to the diversity in the aspect of AI Ethics to show that the bias and the diversity issues found within AI systems are indeed intertwined in the context of social and structural discrimination and the distribution of power. Technological and human improvements that do not take into account such context can exacerbate the problem, even if they seem to promote diversity on the surface. Given the original context and purposes, the task of discussing diversity in artificial intelligence systems in the future will be to extend the understanding of diversity concepts. Finally, the author summarizes some issues raised and discussed in other cultures around diversity and tries to apply them into the Korean context, proposing action plans to discuss to help improve the diversity in artificial intelligence systems in

참고문헌 (59)

  1. 고학수, "인공지능과 차별", 저스티스, 171, pp.199~277 (2019), 한국법학원[DOI]
  2. 관계부처합동, "인공지능 국가전략", ~ (2019)
  3. 랭던 위너, "길을 묻는 테크놀러지" (2010), CIR
  4. 사진의 작은 역사 외, "기술복제시대의 예술작품", pp.2007, 발터 벤야민
  5. "‘페이스북, 성별 선택 다양화 완결판…'직접 입력' 도입" (2015), 아시아경제[URL]
  6. "장혜영 "동성부부도 혼인통계 반영해야"…국민의힘 "허용 안돼" (2020), 연합뉴스[URL]
  7. 이원태, "4차산업혁명시대 산업별 인공지능 윤리의 이슈분석 및 정책적 대응방안연구", 경제정책연구 (2018), 정보통신정책연구원
  8. 정보통신기술진흥센터(IITP), "AI로 인한 배제와 차별에 문제를 제기하는 신흥국의AI 논의", 주간기술동향, (1829) (2018), 정보통신기술진흥센터
  9. 자끄 엘륄, "기술체계" (2013), 대장간
  10. "세계 최초 의료용 AI 왓슨 '찬밥'...한국도 미국도 "수련이부족해" (2018), 조선비즈[URL]
  11. "요즘 실리콘밸리에서 가장 바쁜 사람은최고다양성책임자" (2020), 조선일보[URL]
  12. "인공지능은 성전환 전후를 같은 사람으로 인식할까?" (2020), 한겨레[URL]
  13. 허유선, "인공지능에 의한 차별과 그 책임 논의를 위한 예비적 고찰 -알고리즘의 편향성 학습과 인간 행위자를 중심으로-", 한국여성철학, 29, pp.165~210 (2018), 한국여성철학회[DOI]
  14. 4차 산업혁명 차별과 혐오를 답습하는 AI-젠더관점에서 본 현황과 대안 자료집, "2019", 한국여성단체연합
  15. 허유선, "사람 중심의 AI 사회”, 어떻게 만들 것인가? 인공지능 윤리의관점에서", 공개토론회 ‘인공지능 국가전략: 비판적 검토와 과제’자료집 (2020), 정보인권연구소
  16. 허유선, "왜 윤리인가: 현대 인공지능 윤리 논의의 조망, 그 특징과 한계", 인간.환경.미래, (24), pp.165~209 (2020), 인간환경미래연구원[DOI]
  17. 허유선, "인공지능 윤리와 로봇 윤리, 차이와 연속성-모두의 윤리로서 인공지능 윤리를 향하여-", 철학∙사상∙문화, (34), pp.41~72 (2020), 동서사상연구소[DOI]
  18. "다양성 증대가 AI 발전 원동력...AI전문가 85% 응답" (2020)[URL]
  19. "트위터, 이미지 크롭 알고리즘 인종 편향성 논란 사과" (2020)[URL]
  20. "미묘하지만 만연한 직장 내 ‘먼지차별" (2018)[URL]
  21. Courtney, Marcus, "구글 파업 : 실리콘밸리에 큰 변화를 가져올것인가", 국제 노동 브리프, 17(3) (2019), 한국노동연구원
  22. "Ensuring we pay fairly and equitably" (2019)[URL]
  23. Bivens, Rena, "The gender binary will not be deprogrammed : Ten years of coding gender on Facebook", New Media & Society, 19 (2019)
  24. "Google apologises for Photos app's racist blunder" (2015)[URL]
  25. "Microsoft gender-bias case to go ahead" (2016)[URL]
  26. "IBM hopes 1 million faces will help fight bias in facial recognition" (2019)[URL]
  27. "Tim Cook: You'll soon see more women representing Apple" (2015)[URL]
  28. "Where are the numbers?" (2013)[URL]
  29. "Artificial Intelligence’s White Guy Problem" (2016)[URL]
  30. AI now report 2019, "Crawford, K.", AI Now Institute at New York University, ~ (2019)
  31. "Global AI Talent Report 2019" (2019)[URL]
  32. "Ethics Guidelines for Trustworthy AI" (2019)[URL]
  33. "Facebook Engineering VP Explains Why “Cognitive Diversity Is the Most Powerful Tool" (2017)[URL]
  34. "Google Diversity Annual Report 2018" (2018)[URL]
  35. "Googlers Against Transphobia and Hate" (2019)[URL]
  36. Harding, S, "The Science Question in Feminism" (1986), Cornell University Press
  37. "The role of AI in mitigating bias to enhance diversity and inclusion" (2019)[URL]
  38. "Bias is not just in our datasets, it’s in our conferences and community" (2017)[URL]
  39. "Diversity & Inclusion" (2019)[URL]
  40. "Apple’s board calls diversity proposal ‘unduly burdensome and not necessary" (2016)[URL]
  41. "Bots Are Terrible at Recognizing Black Faces. Let’s Keep it That Way" (2019)[URL]
  42. "Using AI to determine queer sexuality is misconceived and dangerous" (2017)[URL]
  43. "AI is the future - but where are the women?" (2018)[URL]
  44. "We’re in a diversity crisis: cofounder of Black in AI on what’s poisoning algorithms in our lives" (2018)[URL]
  45. "Over 20,000 Google employees participated in yesterday’s mass walkout" (2018)[URL]
  46. "The Origins of Diversity Data in Tech" (2018)[URL]
  47. "Google Fires Engineer Who Wrote Memo Questioning Women in Tech" (2017)[URL]
  48. "Facial Recognition Is Accurate, if You’re a White Guy" (2018)[URL]
  49. "How Google Protected Andy Rubin, the ‘Father of Android" (2018)[URL]
  50. "Activists Turn Facial Recognition Tools Against the Police" (2020)[URL]
  51. "Transparency around image cropping and changes to come" (2020)[URL]
  52. "Life as a Female Techie" (2018)[URL]
  53. "Google Finds It’s Underpaying Many Men as It Addresses Wage Equity" (2019)[URL]
  54. "Tech’s Troubling New Trend: Diversity Is in Your Head" (2017)[URL]
  55. "Facebook 2018 Diversity Report: Reflecting on Our Journey" (2018)[URL]
  56. Whittaker, M., "Disability, Bias, and AI" (2019), AI Now Institute at New York University
  57. "£18.5 million to boost diversity in AI tech roles and innovation in online training for adults" (2019)[URL]
  58. "Diversity in AI improves, but has further to go, according to IBM survey" (2020)[URL]
  59. "Twitter vows to fix bias image cropping issue" (2020)[URL]

관련 논문AI추천

인간의 윤리로서 인공지능윤리 -인공지능윤리의 가치와 자리-김문정, 심지원, 이은재동서사상연구소 · 철학∙사상∙문화2022 · 제38호인공지능 편향식별의 공정성 기준과 완화김효은한국심리학회 · 한국심리학회지:일반2021 · 제40권 제4호성평등 관점에서 본 국내 AI 윤리와 정책 담론: 접근성, 편향 및 지식의 재개념화를 중심으로김수아언론정보연구소 · 언론정보연구2025 · 제62권 제3호인공지능에 의한 차별과 그 책임 논의를 위한 예비적 고찰 -알고리즘의 편향성 학습과 인간 행위자를 중심으로-허유선한국여성철학회 · 한국여성철학2018 · 제29권 왜 윤리인가: 현대 인공지능 윤리 논의의 조망, 그 특징과 한계심지원, 이연희, 허유선인간환경미래연구원 · 인간.환경.미래2020 · 제24호인공지능 젠더편향 방지를 위한 법제 방향 모색김애라한국여성학회 · 한국여성학2024 · 제40권 제4호

이 간행물의 다른 논문 (18건)

한국미 수사에 있어서 삼불 김원용의 ‘자연주의’ 연구김가람pp. 1-18감염병 시대의 생명의료윤리 -역량 접근법의 연대 개념을 중심으로-목광수pp. 19-42업로딩은 생존을 보장하는가?신상규pp. 43-66근대 중국의 서구 심리학 수용의 轉變 -무술변법 전후의 심리학 내용과 역어 변화를 중심으로-이대승pp. 67-92제자백가의 사랑 -공자와 맹자의 ‘사랑’과 ‘원망’-이석주pp. 93-118
원문 보기