인공지능 젠더편향에 대한 대학생 AI개발직군의 인식 -심층인터뷰를 바탕으로-
University Students’ Perceptions of Gender Bias in AI-Based on In-depth Interviews
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
국내외에서 인공지능 편향으로 인한 이슈가 증가하는 추세다. 인공지능 편향이 영향을 미치는 대상집단은 대표적으로 젠더와 인종이다. 본 연구는 국내에 더 영향력이 큰 젠더편향에 대한 인식을 주제로 삼아 곧 사회에 나갈 20대, 특히 인공지능개발 경험이 있는 대학생 열명을 심층인터뷰 대상으로 하였다. 방법은 심층인터뷰 방식을 통해 인공지능의 젠더편향에 대한 인식과 기술 현황을 알아보고자 하였다. 이를 위해 예비조사 성격의 서베이와 이를 보강하는 심층인터뷰를 단계별로 수행하였다. 연구결과, 개발직군 대학생들은 남녀 구분 없이 개인차는 있지만 사회나 인공지능의 젠더편향에 대한 인식을 가지고 있었다. 분야의 특성상 채용은 성별의 영향을 받지 않기에 개인의 젠더 관련 인식이 본인의 개발과는 독립적이라고 인식하고 있었다. AI 개발 과정에서 젠더편향이 있을 경우, 한쪽 성별과 관련한 데이터를 더 추가하거나 가중치를 가감하는 방식으로 조정할 수 있다는 제시를 하였다. 인터뷰 참가자들은 최근 발전된 편향완화 기술 또한 적용가능하다는 의견을 제시하여 역량 보유상황을 알 수 있었다. AI편향완화를 위해서는 인공지능 젠더 편향을 완화하는 환경 구축과 교육의 필요성을 제안하였다. 본 논문은 이러한 인식조사에 기반하여, 해당 내용을 구체화할 정책 제안들을 제시한다.
Abstract
The issue of AI bias is growing both domestically and internationally. The target groups affected by AI bias are typically gender and race. This study focused on the perception of gender bias, which is more influential in Korea, and conducted in-depth interviews with ten university students in their 20s who are about to enter the workforce, especially those with experience in A.I. development. Methodology: This study aimed to find out the perception of gender bias in A.I. and the current state of technology through in-depth interviews. To this end, we conducted a preliminary survey and a supplementary in-depth interview in stages. The results showed that university students were aware of gender bias in society and AI. However, they perceived that their personal experience of gender-related discrimination was independent of their development. Due to the nature of the field, recruitment is not affected by gender, but we did not exclude the possibility that an individual’s background and experience may affect the development process of AI, even if unconsciously. It was suggested that gender bias, if present, could be adjusted for by adding or weighting more data related to one gender. Most of the interviewees agreed that recent advances in bias mitigation techniques can be applied by applying existing techniques, suggesting that natural environments and training are needed to mitigate gender bias in AI. Based on these perceptions, this paper presents policy suggestions to materialize them.
참고문헌 (29)
- 김건우, "차별에서 공정성으로: 인공지능의 차별 완화와 공정성 제고를 위한 제도적방안", 법학연구 (2019), 연세대학교 법학연구원
- 김경은, "인공지능의 젠더화된 목소리와 주체화방식에 대한 사례연구", 한국방송학보, 37(2) (2023), 한국방송학회
- 김도연, "인공지능기술 윤리성 인식 척도개발 연구", 디지털 융합, 20(1), pp.71~86 (2022), 한국디지털융합학회
- 김성용, "인공지능의 개인정보 자동화 처리가 야기하는 차별 문제에 관한 연구", 서울대학교법학, 60(2), pp.311~362 (2019), 서울대학교 법학연구소
- 김효은, "인공지능 편향식별의 공정성 기준과 완화", 한국심리학회지: 일반, 40(4), pp.459~485 (2021), 한국심리학회
- "인공지능업계 여성 비율은? 학계 연구자 20%, 기업 고위직 10%" (2021)[URL]
- 방준성, "대규모 언어 모델을 사용하는 인공지능 기반 대화형 챗봇의 편향성평가 프레임워크 개발 방법", 방송공학회논문지 (2023), 한국방송미디어공학회
- 변순용, "데이터 윤리에서 인공지능 편향성 문제에 대한 연구", 윤리연구, 1(128), pp.143~158 (2020), 한국윤리학회
- 손희정, "인공지능과 젠더 테크놀로지 : 이루다 1. 0 논란을 중심으로", 젠더와문화 (2022), 계명대학교 여성학연구소
- 유수진, "텍스트 마이닝으로 살펴본 대학생들의 인공지능 윤리 인식 연구", 정보교육학회논문지 (2021), 한국정보교육학회
- 이수련, "인공지능 윤리 인식에 대한 데이터 분석 및 시각화 연구-대화형인공지능 서비스 ‘이루다’를 중심으로", 디지털융복합연구, 20(2) (2022), 한국디지털정책학회
- 이정현, "젠더 패턴 : 인공지능 성별 인식 기술에 나타난 ’젠더’개념의 비판적 고찰", 한국언론정보학보, (121) (2023), 한국언론정보학회
- 이지연, "음성⋅영상 신호 처리 알고리즘 사례를 통해 본 젠더혁신의필요성", 한국디지털정책학회논문지, 16(12) (2018), 한국디지털정책학회
- 이지은, "인공지능 윤리를 넘어 : 위치지어진 주체로서의 개발자들과 페미니스트 인공지능의 가능성", 한국여성학, 38(3), pp.143~177 (2022), 한국여성학회
- 이희옥, "인공지능 챗봇의 편향 통제를 위한 윤리 가이드라인", 공법연구 (2023), 한국공법학회
- 이희은, "AI는 왜 여성의 목소리인가? : 음성인식장치 테크놀로지와 젠더화된목소리", 한국언론정보학보, 90, pp.126~153 (2018), 한국언론정보학회
- 장연주, "초중등 학생을 위한 인공지능 윤리 교육 프로그램 개발 및 적용", 컴퓨터교육학회 논문지 (2022), 한국컴퓨터교육학회
- 장희영, "데이터 윤리에 대한 초등학생들의 의식조사 및 교육학습방안에 대한연구", 인공지능윤리연구 (2022), 한국인공지능윤리학회
- 한애라, "인공지능과 젠더차별", 이화젠더법학, 11(3), pp.1~39 (2019), 이화여대 젠더법학연구소
- 허유선, "인공지능에 의한 차별과 그 책임 논의를 위한 예비적 고찰: 알고리즘의편향성 학습과 인간 행위자를 중심으로", 한국여성철학 (2018), 한국여성철학회
- 허유선, "인공지능 윤리와 로봇 윤리, 차이와 연속성-모두의 윤리로서 인공지능윤리를 향하여", 철학사상문화, 34, pp.41~72 (2020), 동국대 동서사상연구소
- 허유선, "인공지능 시스템의 다양성 논의, 그 의미와 확장-인공지능의 편향성에서다양성까지", 철학사상문화, 35, pp.201~234 (2021), 동국대 동서사상연구소
- 황준성, "초등학생 대상 편향성과 공정성에 관한 인공지능 윤리교육 프로그램개발", 한국컴퓨터교육학회 학술발표대회논문집 (2023), 한국컴퓨터교육학회
- Angwin, Julia, "Machine Bias" (2016), ProPublica
- David A. Z., "NYC’s Local Law 144 and the Final Regulations : Regulation of AI-Driven Hiring Tools in the United States", The National Law Review, 10 (2024)
- "Automated Employment Decision Tools (AEDT)" (2021)[URL]
- "Who is protected from employment discrimination?"[URL]
- Vorisek C., "Artificial Intelligence Bias in Health Care : Web-Based Survey", Journal of Medical Internet Research, 25 (2023), JMIR publications