본문 바로가기
KERD
논문

인공지능 젠더편향 방지를 위한 법제 방향 모색

A Study on the Legal Direction for Preventing Gender Bias in Artificial Intelligence in Korea

김애라
한국여성학회 (Korean Association Of Women'S Studies)|2024.12|한국여성학 (Journal of Korean Women＇s Studies)|제40권 제4호|pp. 129-163|DOI https://doi.org/10.30719/JKWS.2024.12.40.4.129

0

조회

0

다운로드

0

인용

0

참고문헌

키워드

AI인공지능공정성차별discriminationfairnessgender bias젠더편향인공지능 규제AI regulations
주제분류여성학

초록

인공지능이 산업계를 넘어 빠르게 대중화되고 있는데 반해 인공지능의 젠더 편향이나 차별 등의 위험과 이에 대한 규제의 필요성 논의는 충분히 이루어지고 있지 못하다. 최근 합의된 유럽연합의 인공지능법(AIA)은 성평등 문제와 관련된 특정 형태의 행동에 대한 제한 및 규제 조치를 예고하고 있다. 미국의 경우에도 행정명령을 통해 자동의사결정 시스템에 대한 영향평가를 실시토록 하고 있으며 이 때 젠더 등에 대한 차별적 수행을 평가할 수 있도록 하였다. 반면 우리나라는 아직 인공지능 규제 정책이 부재하고 있으며 규제 필요성에 대한 논의가 시작 단계에 있다. 이에 본 연구에서는 인공지능의 젠더편향 및 차별 규제 방안에 관한 기존 논의를 검토하고 향후 젠더 편향 완화를 위한 정책 방안을 탐색하고자 한다. 인공지능의 젠더 편향은, 데이터가 수집, 처리, 분석되는 방식에서 발생할 수 있다. 젠더 편향은 결과적으로 부정확한 결론, 불공정한 결정, 그리고 이에 따른 차별로 이어질 수 있다. 이에 본 연구에서는 인공지능에서 활용되는 데이터와, 알고리즘, 사용자 이용에서 고려해야 하는 젠더 편향의 문제들을 파악하고, 젠더 편향의 부정적 효과 및 인공지능 시스템에서의 리스크 요인으로 작용할 가능성에 대한 논의들을 살펴본다. 이 같은 논의에 근거하여 향후 우리나라의 인공지능 규제 정책에 있어 젠더 편향에 대한 명시적 금지, 인공지능 위험관리 대상으로 잠재적 편향 및 차별 가능성 명시, 젠더편향 측정 기준으로서 공정성 명시의 필요성 등 정책 방향을 제시한다.

Abstract

Artificial intelligence (AI) is becoming widely popular beyond industrial applications, yet concerns about gender bias, discrimination, and the necessity for regulation remain insufficiently addressed. The European Union’s recent AI Act introduces mechanisms to promote gender equality, while the United States is evaluating automated decision-making systems for discriminatory impacts, including gender bias. In contrast, Korea lacks dedicated AI regulatory frameworks, and discussions on the need for such policies are still in its early stages. This study reviews ongoing debates on regulating gender bias in AI, exploring potential measures to mitigate its effects in Korea’s future AI policies. Gender bias in AI stems primarily from data collection, processing, and analysis methods, leading to inaccurate results and unfair, discriminatory decisions. This article identifies key manifestations of gender bias in AI data, algorithms, and user interactions, examining the risks posed by such bias as a critical ethical and systemic hazard. Based on this analysis, it proposes policy directions such as explicitly prohibiting gender bias, recognizing discriminatory practices as a focal point for AI risk management, and incorporating fairness as a criterion for assessing gender bias in Korea’s AI regulations. These measures aim to create equitable AI practices that actively address and reduce gender bias.

참고문헌 (47)

  1. 강명희, "인공지능의 성편향성 개선을 위한 법제 정비방안", 이화젠더법학, 15(2), pp.73~111 (2023)
  2. 고학수, "인공지능과 차별", 저스티스, 171, pp.199~277 (2019)
  3. 김근혜, "AI 영향평가에 관한 국외 연구 동향 분석", 차세대융합기술학회논문지, 6(4), pp.615~623 (2022)
  4. 김일우, "고위험 인공지능시스템의 차별에 관한 연구", 서강법률논총, 13(1), pp.7~45 (2024)
  5. 김효은, "인공지능 편향식별의 공정성 기준과 완화", 한국심리학회지 : 일반, 40(4), pp.459~485 (2021)
  6. 김희정, "지능정보화 시대의 알고리즘 차별에 대한 법적 소고 - 미국의 알고리즘 차별 사례를 중심으로", 홍익법학, 21(3), pp.501~524 (2020)
  7. 인공지능 딥러닝 활용의 젠더 편향성 실태와 개선방안, "문미경", 한국여성정책연구원, ~ (2022)
  8. 인공지능윤리기준 실천을 위한 자율점검표(안), "문정욱", 과학기술정보통신부ㆍ정보통신정책연구원, ~ (2023)
  9. 손영화, "AI 공정성에 관한 연구-차별 없는 AI 사회의 실현", 한양법학, 34(3), pp.275~304 (2023)
  10. 양종모, "인공지능 알고리즘의 편향성, 불투명성이 법적 의사결정에 미치는 영향 및 규율 방안", 법조, 66(3), pp.60~105 (2017)
  11. 오요한, "인공지능 알고리즘은 사람을 차별하는가?", 과학기술학연구, 18(3), pp.153~215 (2018)
  12. 유지연, "인공지능 (AI) 윤리원칙을 중심으로 한 규제 내용 분석ㆍ비교", IT 와 법연구, 28, pp.137~210 (2024)
  13. 이지은, "인공지능 윤리를 넘어: 위치지어진 주체로서의 개발자들과 페미니스트 인공지능의 가능성", 한국여성학, 38(3), pp.143~177 (2022)
  14. 이효진, "인공지능 (AI) 단일법 제정 필요성과 행정법학의 과제", 법학논총, 35(3), pp.9~57 (2023)
  15. 디지털 법제 Brief: 미국 알고리즘 책임법안 발의 미국, ‘알고리즘 책임법안(Algorithmic Accountability Act)’ 발의, "한국지능정보사회진흥원 정책본부", 한국지능정보사회진흥원, ~ (2022)
  16. 한애라, "인공지능과 젠더차별", 이화젠더법학, 11(3), pp.1~39 (2019)
  17. 허유선, "인공지능에 의한 차별과 그 책임 논의를 위한 예비적 고찰 - 알고리즘의 편향성 학습과 인간 행위자를 중심으로 -", 한국여성철학, 29, pp.165~210 (2018)
  18. 한국정보화진흥원, "OECD 인공지능 권고안", TTA저널, (187), pp.26~32 (2020)
  19. Ahn, J., "The effect of gender stereotypes on artificial intelligence recommendations", Journal of Business Research, 141, pp.50~59 (2022)
  20. Bender, E. M., "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?", Association for Computing Machinery, paper presented at the 2021 ACM Conference on Fairness, Accountability, and Transparency (2021)
  21. Citron, D. K., "The scored society: Due process for automated predictions", Washington Law Review, 89, pp.1~33 (2014)
  22. Costa, P., "Conversing with personal digital assistants: On gender and artificial intelligence", Journal of Science and Technology of the Arts, 10(3), pp.59~72 (2018)
  23. Collett, C., "AI and gender: Four proposals for future re search", University of Cambridge Repository, ~ (2019)
  24. Cirillo, D., "Sex and gender differences and biases in artificial intelligence for biomedicine and healthcare", NPJ digital medicine, 3(1), pp.1~11 (2020)
  25. "Should ChatGPT be Biased? Challenges and Risks of Bias" (2023)[URL]
  26. Foulds, J. R., "Are Parity-Based Notions of {AI} Fairness Desirable?", A Quarterly bulletin of the Computer Society of the IEEE Technical Committee Data Engineering, 43(4), pp.51~73 (2020)
  27. Ghosh, S., "Chatgpt perpetuates gender bias in machine translation and ignores non-gendered pronouns: Findings across bengali and five other low-resource languages", paper presented at the 2023 AAAI, 2023, ~[DOI]
  28. Gross, N., "What chatGPT tells us about gender: a cautionary tale about performativity and gender biases in AI", Social Sciences, 12(8) (2023)[DOI]
  29. Gupta, M., "Questioning racial and gender bias in AI-based recommendations: Do espoused national cultural values matter?", Information Systems Frontiers, 24(5), pp.1465~1481 (2022)
  30. Kowalski, R., "Algorithm= logic+ control", Communications of the ACM, 22(7), pp.424~436 (1979)
  31. Kusner, M. J., "Counterfactual Fairness", paper presented at the 31st International Conference on Neural Information Processing Systems (2017), NIPS
  32. Lu, Q., "Responsible AI pattern catalogue: A collection of best practices for AI governance and engineering", ACM Computing Surveys, 56(7), pp.1~35 (2024)
  33. Lütz, F., "Gender equality and artificial intelligence in Europe. Addressing direct and indirect impacts of algorithms on gender-based discrimination", ERA forum, 23(1), pp.33~52 (2022)
  34. Nadeem, A., "Gender Bias in AI: A review of contributing factors and mitigating strategies", paper presented at ACIS 2020 (2020), AIS
  35. Parsheera, S., "A GENDERED PERSPECTIVE ON ARTIFICIAL INTELLIGENCE", paper presented at 2018 ITU Kaleidoscope: Machine Learning for a 5G Future (2018), ITU
  36. Shneiderman, B, "Human-centered artificial intelligence: Reliable, safe & trustworthy", International Journal of Human–Computer Interaction, 36(6), pp.495~504 (2020)
  37. Singh S, "Is ChatGPT Biased? A Review" (2023)[DOI]
  38. Wachter, S., "Why fairness cannot be automated: Bridging the gap between EU non-discrimination law and AI", Computer Law & Security Review, 41, pp.105567~ (2021)[DOI]
  39. I’d blush if I could: closing gender divides in digital skills through education, "West, M.", UNESCO, ~ (2019)
  40. Wellner, G., "Feminist AI: Can we expect our AI systems to become feminist?", Philosophy & Technology, 33(2), pp.191~205 (2020)
  41. "AI에게도 젠더 감수성을" (2019)[URL]
  42. "Challenges for mitigating bias in algorithmic hiring" (2019)[URL]
  43. "AI IMAGE GENERATOR SERVES UP RACIAL, GENDER STEREOTYPES, NOVEMBER 30TH, FUTURITY" (2023)[URL]
  44. "Study exposes AI image generators’ bias in depicting surgeons, highlighting gender and racial disparities" (2023)[URL]
  45. "Insight - Amazon scraps secret AI recruiting tool that showed bias against women" (2018)[URL]
  46. "When Good Algorithms Go Sexist: Why and How to Advance AI Gender Equity" (2021)[URL]
  47. "What are large language models (LLMs)?"[URL]

관련 논문AI추천

인공지능의 성편향성 개선을 위한 법제 정비방안강명희젠더법학연구소 · 이화젠더법학2023 · 제15권 제2호인공지능과 젠더차별한애라젠더법학연구소 · 이화젠더법학2019 · 제11권 제3호인공지능, 젠더, 노동 - 인공지능이 여성 노동에 미치는 영향과 디지털 평등을 위한 법제도적 대응 -이다혜젠더법학연구소 · 이화젠더법학2024 · 제16권 제3호인공지능의 목소리, 규제할 수 있을까 ―젠더 편향 해소를 위한 제안―김주현한국법철학회 · 법철학연구2023 · 제26권 제3호성평등 관점에서 본 국내 AI 윤리와 정책 담론: 접근성, 편향 및 지식의 재개념화를 중심으로김수아언론정보연구소 · 언론정보연구2025 · 제62권 제3호인공지능 젠더편향에 대한 대학생 AI개발직군의 인식 -심층인터뷰를 바탕으로-김효은동서사상연구소 · 철학∙사상∙문화2024 · 제45호

이 간행물의 다른 논문 (16건)

발간사김수아pp. 1-2대학 여성학의 제도화 역사 다시 보기: 비서울지역의 경험에 주목하며김혜경pp. 3-29기획의 말이소훈pp. 31-31타인을 착취하는 이주 돌봄 정책은 투쟁으로 막아야: 아시아 이주 가사 노동 활동가가 말한 여성학 의제와 국제연대의 방향피시 입, 에니 레스타리, 김지은, 권서영, 이소훈pp. 33-46젠더 폭력적인 문화에 저항하는 문학의 힘: 아프리카 페미니스트 문학 작가에게서 듣는 여성학 의제와 국제연대의 방향이소훈, 김지은, 권서영, 자일리 아마두 아말pp. 47-52
원문 보기