본문 바로가기
KERD
논문

인공지능 윤리를 넘어: 위치지어진 주체로서의 개발자들과 페미니스트 인공지능의 가능성

Beyond AI Ethics: Developers as Situated Subjects and the Possibility of Feminist AI

0

조회

0

다운로드

5

인용

0

참고문헌

키워드

주제분류여성학

초록

최근 인공지능 알고리즘과 빅데이터의 결합이 불평등과 사회적 갈등, 혐오 등을 증폭, 재생산하는 문제가 사회문제로 대두되면서, 인공지능 윤리기준의 마련과 알고리즘적 공정성 확보 등의 대안이 중요하게 논의되고 있다. 본 논문은 인공지능 기술을 둘러싼 사회적 문제에 대한 해결책으로 거론되고 있는 인공지능 윤리의 문제를 페미니스트 과학기술학의 관점에서 비판적으로 검토하며 페미니스트 인공지능의 가능성을 제시한다. IT 산업 종사자들에 대한 초점집단 인터뷰와 문헌연구를 바탕으로 하는 이 논문에 서는 기술 개발과 제품 기획 사이의 관계가 보다 긴밀해지는 인공지능 업계의 젊은 개발자들이 디지털 기술의 사회적 영향에 대해 상당한 관심을 가지고 있음에 주목한다. 이들의 ‘위치지어짐(situatedness)’은 인공지능 알고리즘과 데이터의 편향 제거에 초점을 맞추는 현재의 인공지능 윤리 담론을 넘어, 다른 방식의 ‘인공지능 하기’의 필요성과 가능성을 동시에 보여준다. 개발자들의 부분적 시각이 대안적 기술의 실천을 가능하게 하는 도구가 될 수 있음을 강조하면서, 본 논문은 페미니스트 인공지능 하기를 실천하 는 주체로서 여성개발자의 역할에 주목할 것을 제안한다. 이러한 논의를 바탕으로 본 논문은 지금까지의 인공지능 윤리에서 중요하게 다루어지지 않아 온 여성 개발자들이 정의로운 인공지능을 만들어가는 주체가 될 가능성을 제안한다.

Abstract

AI ethics and algorithmic fairness have become important policy areas to address the potential harms of data-driven algorithms that reproduce and amplify inequality, social conflict, and hatred. Drawing on insights from feminist science and technology studies, this article critically examines the depoliticizing effect of the current policies and technical discussions on AI ethics and proposes the possibility of feminist AIs. Furthermore, it brings attention to the potential and capacity of young women (and differently marginalized) developers in the AI industry who have considerable interest in the social impact of AI technology. Their ‘situatedness’ simultaneously poses the need and possibility to ‘do AI’ differently. Greater attention should be paid to the role of women developers as practitioners who can utilize their ‘partial perspectives’ to do feminist AI.

참고문헌 (58)

  1. 강이수, "4차산업혁명과 디지털 성별 격차 — 여성노동의 쟁점과 현실", 페미니즘연구, 18(1), pp.143~179 (2018), 한국여성연구소[DOI]
  2. 임소연, "페미니즘은 과학을 바꾸는가? 페미니스트 과학, 젠더혁신, 페미니스트 과학학", 과학기술학연구, 20(3), pp.169~193 (2020), 한국과학기술학회[DOI]
  3. 김보명, "페미니즘의 재부상, 그 경로와 특징들", 경제와 사회, (118), pp.100~138 (2018), 비판사회학회[DOI]
  4. 김소라, "디지털 성폭력의 변화 양상과 ‘음란성’(obscenity)을 근거로 한 규제의 한계", 아시아여성연구, 57(1), pp.163~199 (2018), 아시아여성연구원
  5. 김애라, "디지털 노동의 성별성에 관한 비판적 고찰: 여성 ‘페북스타’의 디지털 노동을 중심으로", 언론과 사회, 24(4), pp.98~145 (2016), 사단법인 언론과 사회
  6. 김애라, "‘탈코르셋’, 겟레디위드미(#getreadywithme) : 디지털경제의 대중화된 페미니즘", 한국여성학, 35(3), pp.43~78 (2019), 한국여성학회[DOI]
  7. 김예란, "섹스의 윤리화를 위한 페미니즘 제안: 여성의 몸과 디지털 페미니즘의 연합과 연동", 한국언론정보학보, (94), pp.34~64 (2019), 한국언론정보학회[DOI]
  8. 김은주, "제 4물결로서 온라인-페미니즘 : 동시대 페미니즘의 정치와 기술", 한국여성철학, 31, pp.1~32 (2019), 한국여성철학회[DOI]
  9. 김지효, "페미니스트‘들’의 인스타그램: 디지털 평판과 SNS 페미니즘", 한국여성학, 37(4), pp.119~154 (2021), 한국여성학회[DOI]
  10. 박채복, "디지털 공간에서 젠더의 주체화와 저항의 정치: 온라인 페미니즘을 중심으로", 동서연구, 32(4), pp.123~143 (2020), 동서문제연구원[DOI]
  11. 버틀러, 주디스, "혐오발언" (2016), 알렙
  12. 오요한, "인공지능 알고리즘은 사람을 차별하는가?", 과학기술학연구, 18(3), pp.153~215 (2018), 한국과학기술학회[DOI]
  13. 원유빈, "남성 중심적 IT 산업에서 여성 개발자의 적응과 대응", 석사, 문화인류학과, pp.2021
  14. 윤명희, "디지털 창의노동: 여성 게임개발자 사례", 문화와 사회, 29(1), pp.91~148 (2021), 한국문화사회학회[DOI]
  15. 윤보라, "디지털 거주지(digital dwelling)와 성폭력: ‘카카오톡 단체 채팅방 성희롱 사건’을 다시 보기", 페미니즘연구, 20(1), pp.123~165 (2020), 한국여성연구소[DOI]
  16. 이다혜, "4차 산업혁명과 여성의 노동 : 디지털 전환이 돌봄노동에 미치는 영향을 중심으로", 법과사회, (60), pp.365~397 (2019), 법과사회이론학회[DOI]
  17. 이은경, "한국 여성과학기술인 지원정책의 성과와 한계", 젠더와 문화, 5(2), pp.7~35 (2012), 여성학연구소
  18. 이시연, "“(인공)지능은 성별이 없다고?”", 인공지능인문학연구, 1, pp.77~93 (2018), 인문콘텐츠연구소[DOI]
  19. 이희은, "AI는 왜 여성의 목소리인가?: 음성인식장치 테크놀로지와 젠더화된 목소리", 한국언론정보학보, (90), pp.126~153 (2018), 한국언론정보학회[DOI]
  20. 장민지, "디지털 네이티브 여", 성주체 (Digital Native Fe, 미디어, 젠더 & 문화, pp.2016, 31(3)[DOI]
  21. 정도범, "인간과 인공지능 (AI) 의 공존을 위한 사회‧ 윤리적 쟁점:신뢰할 수 있는 인공지능 실현 방안", KISTI ISSUE BRIEF, (35), pp.1~12 (2021)
  22. 정연보, "상대주의를 넘어서는 ‘상황적 지식들’의 재구성을 위하여: 파편화된 부분성에서 연대의 부분성으로", 한국여성철학, 19, pp.59~83 (2013), 한국여성철학회[DOI]
  23. 정연보, "‘4차 산업혁명’ 담론에 대한 비판적 젠더 분석 - 젠더본질론과 기술결정론을 넘어", 페미니즘연구, 18(2), pp.3~45 (2018), 한국여성연구소[DOI]
  24. 조주현, "실천이론에서 본 해러웨이의 사이보그 페미니즘: 물적-기호적 실천 개념을 중심으로", 사회사상과 문화, (30), pp.1~38 (2014), 동양사회사상학회
  25. 주혜진, "여성과학기술인 지원정책에 ‘여성’은 있는가: 참여토론과 AHP를 통한 정책 발굴의 의의", 페미니즘연구, 14(2), pp.153~202 (2014), 한국여성연구소
  26. 하정옥, "페미니스트 과학기술학의 과학과 젠더 개념: 켈러, 하딩, 하러웨이의 논의를 중심으로", 한국여성학, 24(1), pp.51~82 (2008), 한국여성학회
  27. 한애라, "인공지능과 젠더차별", 이화젠더법학, 11(3), pp.1~39 (2019), 젠더법학연구소[DOI]
  28. 한유진, "글로벌 성평등 의제 및 정책사례 연구" (2021), 여성가족부
  29. 홍남희, "디지털 성폭력의 ‘불법화’ 과정에 대한 연구", 미디어, 젠더 & 문화, 33(2), pp.203~246 (2018), 한국여성커뮤니케이션학회[DOI]
  30. 황희숙, "페미니스트 과학론의 의의-하딩의 주장을 중심으로", 한국여성철학, 18, pp.5~38 (2012), 한국여성철학회[DOI]
  31. "Deploying Feminist AI" (2021)[URL]
  32. Buolamwini, Joy, "When the Robot Doesn’t See Dark Skin", The New York Times, ~ (2018)
  33. Buolamwini, Joy, "Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification", Conference on fairness, accountability and transparency, pp.77~91 (2018)
  34. "Facial Recognition Technologies: A Primer" (2020)[URL]
  35. Cinelli, Matteo, "The Echo Chamber Effect on Social Media", PNAS, 118(9), pp.1~8 (2020)
  36. Cirillo, Davide, "Sex and gender differences and biases in artificial intelligence for biomedicine and healthcare", NPJ digital medicine, 3(1), pp.1~11 (2020)
  37. Costa-jussà, Marta R., "An analysis of gender bias studies in natural language processing", Nature Machine Intelligence, 1(11), pp.495~496 (2019)
  38. Crawford, Kate, "The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence" (2021), Yale University Press
  39. D’Ignazio, Catherine, "Data Feminism" (2020), MIT Press
  40. Gowaty, Patricia Adair, "Sexual Natures : How Feminism Changed Evolutionary Biology", Signs, 28(3), pp.901~921 (2003)
  41. Guevara-Gómez, Ariana, "Feminist perspectives to artificial intelligence : Comparing the policy frames of the European Union and Spain", Information Polity, 26(2), pp.173~192 (2021)
  42. Haraway, Donna, "Situated Knowledges : The Science Question in Feminism and the Privilege of Partial Perspective", Feminist Studies, 14(3), pp.575~599 (1988)
  43. Kang, TaeYoung, "Korean Online Hate Speech Dataset for Multilable Classification: How Can Social Science Improve Dataset on Hate Speech?" (2022)
  44. Leavy, Susan, "Gender Bias in Artificial Intelligence: The Need for Diversity and Gender Theory in Machine Learning", Association for Computing Machinery, Proceedings of the 1st International Workshop on Gender Equality in Software Engineering (2018)
  45. Longino, Helen E., "Can There Be a Feminist Science?", Hypatia, 2(3), pp.51~64 (1987)
  46. Mitchell, Shira, "Algorithmic Fairness: Choices, Assumptions, and Definitions", Annual Review of Statistics and Its Application, 8, pp.141~163 (2021)
  47. Parikh, Ravi B., "Addressing bias in artificial intelligence in health care", Journal of American Medical Association, 322(24), pp.2377~2378 (2019)
  48. Prates, Marcelo OR, "Assessing Gender Bias in Machine Translation : a Case Study with Google Translate", Neural Computing and Applications, 32(10), pp.6363~6381 (2020)
  49. Roy, Deboleena, "Molecular Feminisms: Biology, Becomings, and Life in the Lab" (2018), University of Washington Press
  50. Schiebinger, Londa, "Has Feminism Changed Science?" (1999), Harvard University Press
  51. Schiebinger, Londa, "Introduction : Feminism Inside the Sciences", Signs, 28(3), pp.859~866 (2003)
  52. Seaver, Nick, "What Should an Anthropology of Algorithms Do?", Cultural Anthropology, 33(3), pp.375~385 (2018)
  53. Vidgen, Bertie, "Challenges and Frontiers in Abusive Content Detection", Proceedings of the Third Workshop on Abusive Language Online, pp.80~93 (2019)
  54. Wajcman, Judy, "Technofeminism" (2004), Polity
  55. Zhao, Jieyu, "Men also like shopping: Reducing gender bias amplification using corpus-level constraints" (2017)
  56. 관계부처합동, "사람이 중심이 되는 인공지능(AI) 윤리기준", 제19차 4차산업혁명위원회 심의안건 제2호, ~ (2020)
  57. 관계부처합동, "사람이 중심이 되는 인공지능을 위한 신뢰할 수 있는 인공지능 실현 전략(안)", ~ (2021)
  58. "테크페미 “페미니스트 동료 만나면 성취감도 늘어나죠”" (2019)[URL]

관련 논문AI추천

이 간행물의 다른 논문 (8건)