인공지능과 젠더 테크놀로지: 이루다1.0 논란을 중심으로
AI and Technologies of Gender: On the Controversy on Chatbot Iruda
0
조회
0
다운로드
8
인용
0
참고문헌
키워드
초록
2021년 촉발된 챗봇 이루다1.0을 둘러싼 논란은 인공지능이 가치중립적이거나 젠더중립적이지 않다는 사실을 잘 보여준다. 본고는 이때 등장한 쟁점과 관점들을 정리하고, 이를 통해 인공지능을 단순한 기술로 보는 관점을 넘어서 텍스트, 제작주체, 제작언어(혹은 프로그래밍과 알고리듬), 시장, 유저, 담론 등을 아우르는 총제적인 장치(dispositif)로 이해하고자 한다. 인공기술은 일종의 재현 체계로서 한 사회의 젠더를 구성하는데 개입하며, 그런 의미에서 테레사 드 로레티스가 영화장치를 설명하기 위해 고안했던 ‘젠더 테크놀로지(technologies of gender)’라는 개념을 통해 비평할 수 있다. 이와 더불어 제작사 스캐터랩의 대응을 통해 인공지능에서 대항담론은 어떤 역할을 할 수 있는지 살펴본다.
Abstract
The controversy on chatbot Iruda 1.0 which was abruptly triggered in the early 2021 shows that artificial intelligence technology is not value-neutral or gender-neutral. This essay summarizes various arguments and perspectives on Iruda 1.0 that emerged that time. Based on this, it would assert that AI technologies should be understood as a total dispositif encompassing text, production subjects, AI languages (or programming and algorithms), markets, users, and discourses. Thus recognizing the fact that this dipositif is involved in constructing gender of the society as a kind of representation system, this essay assert that we should appropriate the concept of ‘technologies of gender’, which Teresa de Lauretis had moulded to criticially explain the cinematic apparatus, to speculate and criticize arguments on AI. Since Teresa de Lauretis argued the counter discourses also exert influence on the process of constructing gender, this essay would look in to the discussions on AI fairness and argue we should try to form fair trajectory dealing with AI technologies.
참고문헌 (31)
- 김성근, "챗봇 기술 소개 및 사례분석", 정보와 통신열린강좌, 35(2(별책8호)), pp.21~28 (2018)
- 루빈, 게일, "일탈" (2015), 현실문화
- 소병수, "소셜미디어상의 개인정보 활용과 보호- AI 채팅로봇 ‘이루다’의 개인정보 침해 사건을 중심으로 -", 법학연구, 24(1), pp.179~207 (2021), 법학연구소[DOI]
- 손희정, "로봇은 젠더 플루이드를 꿈꾸는가?", 이화여자대학교 이화인문과학원·도서관협회 4차 산업혁명 시대, 인문학에 길을 묻다 토론회 (2018)[DOI]
- 손희정, "도래할 유토피아들", pp.29~55 (2021), 알렙
- 이광석, "인공지능에 어떻게 시민 윤리와 인권의 원칙을 장착할 것인가?", 문화연대 이루다 이슈 긴급 토론회 자료집 (2021)
- 이시연, "“(인공)지능은 성별이 없다고?”", 인공지능인문학연구, 1, pp.77~93 (2018), 인문콘텐츠연구소[DOI]
- 이희은, "AI는 왜 여성의 목소리인가?: 음성인식장치 테크놀로지와 젠더화된 목소리", 한국언론정보학보, (90), pp.126~153 (2018), 한국언론정보학회[DOI]
- 장민제, "기계는 어떻게 여성의 목소리를 갖게 되는가?: 1980-90년대 버스 자동 음성안내 도입을 중심으로", 한국과학사학회지, 43(1), pp.109~138 (2021), 한국과학사학회[DOI]
- 조경숙, "‘이루다’를 보내기 전, 우리가 짚어야 할 ‘차별’에 대해", 에피, (15) (2021)
- 페레스, 캐럴라인, "보이지 않는 여자들: 편향된 데이터는 어떻게 세계의 절반을 지우는가" (2020), 웅진지식하우스
- 허유선, "인공지능에 의한 차별과 그 책임 논의를 위한 예비적 고찰 -알고리즘의 편향성 학습과 인간 행위자를 중심으로-", 한국여성철학, 29, pp.165~210 (2018), 한국여성철학회[DOI]
- 헤일즈, 캐서린, "우리는 어떻게 포스트휴먼이 되었는가" (2013), 플래닛
- Eleni Adamopoulou, "Chatbots: History, technology, and applications", Machine Learning with Applications, 2, pp.100006~ (2020), Elsevier BV[DOI]
- Bradlow, Ann R., "Intelligibility of Normal Speech I: Global and Fine-grained Acoustic-phonetic Talker Characteristics", Speech Communication, 20(3), pp.255~272 (1996)
- De Lauretis, Teresa, "Technologies of Gender: Essays on Theory, Film, and Fiction" (1987), Macmillan Press
- Holstein, K., "Improving Fairness in Machine Learning Systems: What Do Industry Practioners Need?", CHI 2019: Proceedings of the 2019 CHI conference on Human Factors in Computing Systems, pp.1~16 (2019)
- Schwartz, R., "Towards a Standard for Identifying and Managing Bias in Artificial Intelligence", pp.1~86 (2022), NIST
- Turing, A. M., "Computing Machinery and Intelligence", Mind, 59, pp.433~460 (1950)
- 시사IN, "‘이루다’가 멈춘 곳이 ‘우리의 현재’", 시사IN, 2021.2.3, ~ (2021)
- 연합뉴스, "‘20살 AI 이루다’ 인기 끌자... 성희롱 방법이 공유됐다", 연합뉴스, 2021.1.8, ~ (2021)
- 오마이뉴스, "이루다가 ‘혐오 논란’에 휩싸인 이유... “단어 이해못하고 헛소리”", 오마이뉴스, 2021.1.12, ~ (2021)
- 60만명 개인정보 처벌1원억... ‘이루다’가 남긴숙제, "이투데이, 2021.4.28", 2021
- AI타임즈, "무인살상드론, 자율적으로 공격했다", AI타임즈, 2021.6.8, ~ (2021)
- AI 챗봇 ‘루다’와 랜선 친구가됐다, "Byline Network, 2020.7.25", 2020
- New York Times, "Looking for a Choice of Voices in A.I Technology", New York Times, October 9, 2016, ~ (2016)
- 박정욱, "김종배의 <시선집중>", MBC 라디오, 2021.1.15, ~ (2021)
- "컴퓨팅 전문가 윤리 강령의 최신 개정과 주요 변화" (2019)[URL]
- "AI 챗봇 어뷰징 대응 정책" (2022)[URL]
- "The History of chatbots: From Eliza to Alexa" (2017)[URL]
- "AI has a gender problem. Here’s what to do about it" (2018)[URL]