본문 바로가기
KERD
논문KCI 등재

인공지능과 젠더차별

Artificial Intelligence and Gender Discrimination

한애라
젠더법학연구소 (Institute for Gender and Law)|2019.12|이화젠더법학 (Ewha Journal of Gender and Law)|제11권 제3호|pp. 1-39|DOI 10.22791/ewhagl.2019.11.3.001

0

조회

0

다운로드

26

인용

0

참고문헌

키워드

인공지능Artificial Intelligence젠더GenderEthics편향차별Discrimination윤리Bias
주제분류법학

초록

인공지능 알고리즘은 사회 전반에서 급속도로 활용범위가 넓어지고 있으나, 이로 인하여 차별이나 편향이 강화될 우려가 있고, 이러한 문제는 젠더차별에서 두드러진다. 인공지능 알고리즘은 디자인 단계에서 개발자의 편향을 그대로 반영할 수도 있고, 소수자 데이터 대표성의 결여로 차별을 야기할 수도 있으며, 과거의 데이터로부터 기존의 편향을 학습하여 확대, 재생산할 수도 있다. 인공지능 맥락에서 젠더차별은 인공지능 스피커의 디자인에서 여성 목소리를 디폴트로 설정하거나, 안면인식 알고리즘이 여성을 남성에 비하여 정확하게 인식하지 못한다거나, 여성이 인공지능 입사지원 선별 시에 남성보다 불리하게 취급되거나, 여성의 신용한도가 남성보다 적거나, ‘여성스러운’ 광고에만 노출되는 등의 여러 형태로 나타난다. 이러한 인공지능에 의한 편향과 차별을 시정하기 위해서는 먼저 과학기술 교육, 연구, 사업 영역에서 젠더평등이 실현되어야 한다. 다음으로는 인공지능 알고리즘의 공정성, 설명가능성, 투명성을 높이기 위한 연구와 정책적 노력이 필요하다. 끝으로 기존에 존재하였던 젠더차별을 파악하고 시정하는 수단으로 인공지능을 활용하는 방안도 모색하여야 할 것이다.

Abstract

Algorithms of artificial intelligence are already broadly used, but many people worry that AI might reinforce bias or discrimination, and such problems are the most prominent in gender discrimination. AI algorithms can reflect programmers’ bias at the design stage, cause discrimination to minorities due to lack of minority-representative data, or learn and reproduce existing biases from past data. In the AI context, gender discrimination appears in many forms; for example, programmers tend to set a female voice as the default of an AI speaker, the AI-powered facial recognition systems do not accurately identify female faces compared to male faces, the recruit AI gives lower scores to female job applicants than to male ones, the credit card AI allows lower credit limit to females than males, and AI shows less STEM ads to females than males. In order to correct such gender bias and discrimination by AI, firstly, gender equality must be realized in the STEM and ICT education, research and business areas. Secondly, research and policy efforts are needed to promote fairness, explainability and transparency of AI. Lastly, we should explore ways to use AI as a means to identify and correct the existing gender discrimination.

참고문헌 (63)

  1. 기업 내 여성비율 확대를 위한전략연구, "강민정", 한국여성정책연구원, ~ (2018)
  2. 강이수, "4차산업혁명과 디지털 성별 격차 — 여성노동의 쟁점과 현실", 페미니즘연구, 18(1), pp.143~179 (2018), 한국여성연구소[DOI]
  3. 윤리적 인공지능의 실현과 과제, "고학수", 서울대학교 법과경제연구센터, ~, pp.서울대학교법과경제연구센터 인공지능정책 이니셔티브 이슈 페이퍼 제4호 (2019)
  4. 고학수, "인공지능과 차별", 저스티스, 171, pp.199~277 (2019), 한국법학원[DOI]
  5. 제4차 여성과학기술인 육성･지원 기본계획, "과학기술정보통신부", ~ (2019)
  6. 4차 산업혁명 시대에서 정보인권 보호를 위한 실태조사, "국가인권위원회", ~ (2018)
  7. 개인신용평가체계 종합 개선방안, "금융위원회", ~ (2018)
  8. 김성용, "인공지능의 개인정보 자동화 처리가 야기하는 차별 문제에 관한 연구", 서울대학교 법학, 60(2), pp.311~362 (2019), 법학연구소[DOI]
  9. 김지형, "과학기술 젠더 불균형: 현황과 과제", 과학기술학연구, 14(2), pp.251~280 (2014), 한국과학기술학회
  10. 맹욱재, "온라인 게임 내 성차별 실태 조사 및 제재 시스템 디자인 연구", Trans-Humanity 경계의 확장, 한국HCI학회 학술대회 (2018), 한국HCI학회
  11. 배상균, "인공지능(AI) 기술을 이용한 디지털 성범죄에 대한 검토 - 딥페이크(Deepfake) 포르노 규제를 중심으로 -", 외법논집, 43(3), pp.169~187 (2019), 법학연구소[DOI]
  12. 백희영, "과학기술 연구개발에서의 젠더혁신 확산방안 - 성별특성분석 토대의 젠더혁신 지원정책을 중심으로 -", 기술혁신학회지, 20(4), pp.989~1014 (2017), 한국기술혁신학회
  13. 엄미정, "4차 산업혁명과 여성과학기술인 정책 지향", 여성과학기술인정책, 4차 산업혁명 시대를 준비하는가?, 제132회 한림원탁토론회 (2018), 한국과학기술한림원
  14. 오요한, "인공지능 알고리즘은 사람을 차별하는가?", 과학기술학연구, 18(3), pp.153~215 (2018), 한국과학기술학회[DOI]
  15. 이효빈, "과학기술의 젠더혁신 정책 방향 연구", 한국콘텐츠학회 논문지, 17(10), pp.241~249 (2017), 한국콘텐츠학회[DOI]
  16. 이희은, "AI는 왜 여성의 목소리인가?: 음성인식장치 테크놀로지와 젠더화된 목소리", 한국언론정보학보, (90), pp.126~153 (2018), 한국언론정보학회[DOI]
  17. 정연보, "‘4차 산업혁명’ 담론에 대한 비판적 젠더 분석 - 젠더본질론과 기술결정론을 넘어", 페미니즘연구, 18(2), pp.3~45 (2018), 한국여성연구소[DOI]
  18. 캐시 오닐, "대량살상수학무기" (2016), 흐름출판
  19. 프랑소와 숄레, "케라스 창시자에게 배우는 딥러닝" (2018), 길벗
  20. 하정옥, "페미니스트 과학기술학의 과학과 젠더 개념: 켈러, 하딩, 하러웨이의 논의를 중심으로", 한국여성학, 24(1), pp.51~82 (2008), 한국여성학회
  21. 한고은, "MOBA(Multiplayer Online Battle Arena)장르의 게임 내 성차별 사례 분석과 대안에 관한 연구", 한국컴퓨터정보학회 학술발표논문집, 25(2) (2017), 한국컴퓨터정보학회
  22. 한국정보화진흥원, "사회 속의 인공지능" (2019), OECD
  23. 2019 게임이용자 실태조사, "한국콘텐츠진흥원", 한국콘텐츠진흥원, ~ (2019)
  24. 한애라, "“사법시스템과 사법환경에서의 인공지능 이용에 관한 유럽 윤리헌장”의 검토 - 민사사법절차에서의 인공지능 도입 논의와 관련하여 -", 저스티스, 172, pp.38~79 (2019), 한국법학원[DOI]
  25. Ali, M., "Discrimination through optimization: How Facebook's ad delivery can lead to skewed outcomes", Proceedings of the ACM on Human-Computer Interaction, 3(199) (2019)
  26. "Google Diversity Annual Report" (2019)[URL]
  27. Buolamwini, J., "Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification", Proceedings of Machine Learning Research, 81(1) (2018)
  28. Caliskan, A., "Semantics derived automatically from language corpora contain human-like biases", Science, 365(6334) (2017)
  29. Celis, L. E., "Toward Controlling Discrimination in Online Ad Auctions", ICML 2019 conference (2019)
  30. Chang, E., "BROTOPIA – Breaking up the Boy’s Club of Silicon Valley" (2018), Portpolio Penquin
  31. Chen, I. Y., "Why Is My Classifier Discriminatory?", 32nd Conference on Neural Information Processing Systems (2018)
  32. Cowgill, B., "Economics, Fairness and Algorithmic Bias", The Journal of Economic Perspectives, Columbia Business School Research Paper (2019)
  33. Danziger, S., "Extraneous factors in judicial decisions", Proceedings of the National Academy of Sciences, 108(17) (2011)
  34. Dieterich, W., "COMPAS Risk Scales: Demonstrating Accuracy Equity and Predictive Parity" (2016), Northpointe Inc. Research Department
  35. Ebers, M., "Algorithms and Law" (2019), Cambridge University Press
  36. Goel, S., "Precinct or Prejudice? Understanding Racial Disparities in New York City’s Stop–and-frisk Policy", The Annals of Applied Statistics, 10(1) (2016)
  37. Goodfellow, I. J., "Generative Adversarial Nets", NIPS'14 Proceedings of the 27th International Conference on Neural Information Processing Systems, 2 (2014)
  38. Face Recognition Vendor Test(FRVT) Part 3: Demographic Effects, "Grother, P.", NIST, ~ (2019)
  39. Hunt, V., "Delivering through Diversity" (2018), McKinsey&Company Organization
  40. Human Decisions and Machine Predictions, "Kleinberg, J.", NBER, ~, pp.NBER Working Paper no. 23180 (2017)
  41. Kleinberg, J., "Discrimination in the Age of Algorithms", Journal of Legal Analysis, 10 (2018)
  42. "2018", ~
  43. Kwan, M., "Children’s Responses to Computer- Synthesized Speech in Educational Media: Gender Consistency and Gender Similarity Effects", Human Communication Research, 33 (2007)
  44. Lambrecht, A., "Algorithmic Bias? An Empirical Study into Apparent Gender-Based Discrimination in the Display of STEM Career Ads", Management Science, 65(7) (2018)
  45. Latanya, S., "Discrimination in Online Ad Delivery", Commun. ACM, 56, pp.5~ (2013)
  46. Levmore, S., "The Impact of Artificial Intelligence on Rules, Standards, and Judicial Discretion", Southern California Law Review, 93 (2019)
  47. Mayson, S. G., "Bias In, Bias Out", Yale Law Journal, 128, pp.2218~ (2019)
  48. Mitchell, W. J., "Does social desirability bias favor humans? Explicit–implicit evaluations of synthesized speech support a new HCI model of impression management", Computers in Human Behavior, 27(1) (2011)
  49. Mittelstadt, B. D., "The Ethics of Algorithms: Mapping the Debate", Big Data and Society (2016)
  50. Nass, C., "Are Machines Gender Neutral? Gender-Stereotypic Responses to Computers With Voices", Journal of Applied Social Psychology, 27(10) (1997)
  51. OECD, "Artificial Intelligence in Society", ~ (2019)
  52. Pasquale, F., "The Black Box Society : The Secret Algorithms that Control Money and Information" (2015), Harvard University Press
  53. Sandberg, D. J., "When Women Lead" (2019), S&P Global
  54. Schönberger, D., "Artificial intelligence in healthcare: a critical analysis of the legal and ethical implications", International Journal of Law and Information Technology, 27(2) (2019)
  55. Women in Technology Leadership 2019 report, "Silicon Valley Bank", ~ (2019)
  56. Stephens-Davidowitz, S., "Everybody Lies" (2017), Harper Collins
  57. Tamargo, J., "Gender differences in the effects of cardiovascular drugs", European Heart Journal - Cardiovascular Pharmacotherapy, 3(3) (2017)
  58. Tay, B., "When stereotypes meet robots: The double-edge sword of robot gender and personality in human–robot interaction", Computers in Human Behavior, 38 (2014)
  59. The European Commission, High Level Expert Group on Artificial Intelligence, "Ethics Guidelines for Trustworthy AI", ~ (2019)
  60. Trovato, G., "She’s Electric—The Influence of Body Proportions on Perceived Gender of Robots across Cultures", Robotics, 7(50) (2018)
  61. United Nations, "Bridging the Digital Divide in Health", UN Chronicles, 48(3) (2011)
  62. Wachter, S., "Affinity Profiling and Discrimination by Association in Online Behavioural Advertising", Berkeley Technology Law Journal, 35(2) (2019)
  63. West, M., "I’d blush if I could: closing gender divides in digital skills through education" (2019), UNESCO for the EQUALS Skills Coalition

관련 논문AI추천

인공지능 젠더편향 방지를 위한 법제 방향 모색김애라한국여성학회 · 한국여성학2024 · 제40권 제4호인공지능의 목소리, 규제할 수 있을까 ―젠더 편향 해소를 위한 제안―김주현한국법철학회 · 법철학연구2023 · 제26권 제3호인공지능의 성편향성 개선을 위한 법제 정비방안강명희젠더법학연구소 · 이화젠더법학2023 · 제15권 제2호인공지능, 젠더, 노동 - 인공지능이 여성 노동에 미치는 영향과 디지털 평등을 위한 법제도적 대응 -이다혜젠더법학연구소 · 이화젠더법학2024 · 제16권 제3호성평등 관점에서 본 국내 AI 윤리와 정책 담론: 접근성, 편향 및 지식의 재개념화를 중심으로김수아언론정보연구소 · 언론정보연구2025 · 제62권 제3호인공지능 젠더편향에 대한 대학생 AI개발직군의 인식 -심층인터뷰를 바탕으로-김효은동서사상연구소 · 철학∙사상∙문화2024 · 제45호

이 간행물의 다른 논문 (7건)

헌법상 성적 자기결정권의 의미에 관한 재검토소은영pp. 41-65분단체제 탈북민 정책의 인식과 이행과제: ‘배제적 통합’의 영속화에 대한 비판김화순pp. 67-106여성정치대표성과 할당제: 제도화 20년의 한국적 경험과 또 다른 길 찾기김은희pp. 107-139연동형 비례대표제와 여성대표성 : 선거제도 개혁의 젠더 동학을 중심으로이진옥pp. 141-177신원 관리에 있어 간성(間性, intersex)의 법적 인식에 대한 고찰박은영pp. 179-205
원문 보기