인공지능에 의한 차별과 그 책임 논의를 위한 예비적 고찰 -알고리즘의 편향성 학습과 인간 행위자를 중심으로-
The preliminary consideration for Discrimination by AI and the responsibility problem -On Algorithm Bias learning and Human agent-
1
조회
0
다운로드
34
인용
0
참고문헌
키워드
초록
이 글은 인공지능에 의한 차별과 그 책임 논의를 철학적 차원에서본격적으로 연구하기에 앞선 예비적 고찰이다. 인공지능에 의한 차별을 철학자들의 연구를 요하는 당면 ‘문제’로 제기하고, 이를 위해 ‘인공지능에 의한 차별’이라는 문제의 성격과 원인을 규명하는 것이 이 글의 주된 목적이다. 인공지능은기존 차별을 그대로 반복하여 현존하는 차별의 강화 및 영속화를 야기할 수있으며, 이는 먼 미래의 일이 아니다. 이러한 문제는 현재 발생 중이며 공동체적대응을 요구한다. 그러나 철학자의 입장에서 그와 관련한 책임 논의를 다루기는쉽지 않다. 그 이유는 크게 인공지능의 복잡한 기술적 문제와 전통적 책임 개념의 한계라 할 수 있다. 여기서는 특히 인공지능과 관련된 기술적 개념을 중심으로 문제를 파악하고, 이와 관련하여 인간 행위자의 책임 및 그 역량을 규명한다. 통칭 인공지능으로 이해되는 것은 알고리즘에 기반한 자동화 시스템이며, 알고리즘의 편향성이 인공지능에 의한 차별을 야기할 수 있다. 알고리즘이 겉보기에인간 행위자와 독립적으로 작동하는 것처럼 보일지라도, 인간 행위자가 그에개입하고 있음을 밝힌다. 인간 행위자가 편향된 입력 자료를 사용하거나 편향된설계를 할 수 있다는 점에서, 알고리즘의 편향성은 인간 행위자의 편향성과불가분의 관계이기 때문이다. 그러므로 인간 행위자는 인공지능에 의한 차별문제에 대응할 책임이 있으며, 책임 역량을 갖고 있다. 마지막으로 인공지능에의한 차별 논의를 위한 철학 연구의 추후 과제를 정리한다.
Abstract
This essay is a preliminary consideration for further arguments on the discrimination by AI (Artificial Intelligence) and the responsibility. The main purpose is of the essay is to show that “the discrimination by AI and the responsibility” is an urgent philosophical problem (challenge?) and to understand its cause and the characters. AI can repeat the existing discrimination and contribute its exacerbation as well as perpetuation. We are already facing this problem and need to find how to respond it in community-level. But it is not simple for philosophers to deal with the responsibility. It is due to the technical complexity of AI and the limited scope of traditional responsibility. This essay will focus on identifying the issues around AI ‘s technical concept and thereby argue on the human agent’s responsibility and the competence. So-called AI generally means automated system based on algorithm which has possibility in its inherent bias to cause discrimination by AI. This essay will suggest that human agent is engaged in the operation of algorithm by one’s act even though it seems to work independent from human agent. Given the fact that human agent can use biased data when input or practice biased design, the bias proven in algorithm is inseparable from one found in human agent. Therefore, human agent is responsible and has competence to respond against the discrimination practiced by AI. In conclusion, the essay will propose philosophical tasks needed to further discuss.
참고문헌 (38)
- 제4차산업혁명에 대응한 지능정보사회 중장기 종합대책, "관계부처 합동", ~ (2016)
- 도밍고스, 페드로, "마스터알고리즘" (2016), 비즈니스북스
- 박종보, "인공지능기술의 발전과 법적 대응방향", 법학논총, 34(2), pp.37~62 (2017), 법학연구소[DOI]
- 설민수, "머신러닝 인공지능의 법 분야 적용의 현재와 미래： 미국의 현황과 법조인력 구조 및 법학교육에 대한 논의를 중심으로", 저스티스, 156, pp.269~302 (2016), 한국법학원
- 심우민, "인공지능의 발전과 알고리즘의 규제적 속성", 법과사회, (53), pp.41~70 (2016), 법과사회이론학회
- 양종모, "인공지능의 위험의 특성과 법적 규제방안", 홍익법학, 17(4), pp.537~565 (2016), 법학연구소[DOI]
- 인공지능의위험성에 대한 우려로 제정된 아실로마 인공지능 원칙, "과학기술정책", 2017, ~, pp.과학기술정책연구원
- 오세욱, "미디어로서의 봇(bot): 뉴스 챗봇에 대한 시론적 논의", 한국언론정보학보, 79(5), pp.70~103 (2016), 한국언론정보학회
- EU알고리즘 규제 이슈와 정책적 시사점, KISDI Premium Report, "이원태", 정보통신정책연구원, ~ (2016)
- 피터 플래치, "머신러닝:데이터를 이해하는 알고리즘의 예술과 과학" (2016), BJPUBLIC
- 최은창, "인공지능 시대의 법적•윤리적 쟁점", FUTURE HORIZON, (28) (2016), 과학기술정책연구원
- Bostrom N., "Superintelligence: Paths, Dangers, Strategies" (2014), Oxford University Press
- Datta, Amit, "Automated Experiments on Ad Privacy Settings", Proceedings on Privacy Enhancing Technologies, Privacy Enhancing Technologies Symposium (2015)
- Goodman, Bryce W, "A Step Towards Accountable Algorithms?: Algorithmic Discrimination and the European Union General Data Protection", 29th Conference on Neural Information Processing Systems (2016), NIPS
- Lenk, Hans, "Ethics of responsibilities distributions in a technological culture", AI &Society, 32 (2016), Springer
- Searle, J. R, "Minds Brains and Programs", Behavioral and Brain Sciences, 3(3) (1980), Cambridge University Press
- Kay, Matthew, "Unequal Representation and Gender Stereotypes in Image Search Results for Occupations", Communications of the ACM, 56(5) (2015), ASSOCIATION FOR COMPUTINGMACHINERY
- Zapusek, Tjasa, "Artificial intelligence in medicine and confidentiality of data, New perspectives to Data-Driven HealthCare 자료집", 이화여자대학교 생명의료법연구소, ~ (2017)
- "인공지능 한계 드러낸MS 채팅봇 ‘테이’...태어나 망가지기까지" (2016), 강인효[URL]
- "인공지능과 구글의 만남" (2016), 강일용[URL]
- "포털 알고리즘뉴스, 편향 대립 부추길 수 있다" (2018), 박수련[URL]
- "구글 광고, 흑인인종차별 경향<하버드大 교수>" (2013), 박진형[URL]
- "인공지능 세뇌의 위험…MS채팅봇 ‘테이’ 차별발언으로 운영중단" (2016), 연합뉴스[URL]
- "젠더 혁신 한국어 사이트"[URL]
- "ASILOMAR AI PRINCIPLES"[URL]
- "Expotential View" (2016)[URL]
- "Top 9 ethical issues inartificial intelligence" (2016)[URL]
- "Big Data: A Report on Algorithmic Systems, Opportunity, and Civil Rights" (2016)[URL]
- "Big Data, A Tool for Inclusion or Exclusion?" (2016)[URL]
- "The great AI awakening" (2016)[URL]
- "Learning from Tay’s introduction" (2016)[URL]
- "How Copyright Law Creates Biased Artificial Intelligence"[URL]
- "A beauty contest was judged by AI and the robots didn’t like dark skin" (2016)[URL]
- "Microsoft’s Tay.ai chatbot went from being a teen with ‘no chill’ to a racist, misogynistic jerk" (2016)[URL]
- "Machine Translation: Analyzing Gender"[URL]
- Sweeney,Latanya, "Discrimination in Online Ad Delivery", ACM Queue, 11(3) (2013)
- "General Data Protection Regulation" (2016)[URL]
- "Big Data: Seizing Opportunities, Preserving Values" (2014)[URL]