인공지능의 개인정보 자동화 처리가 야기하는 차별 문제에 관한 연구
A Study on Discrimination Problem caused by Automated Personal Data Processing of Artificial Intelligence
0
조회
0
다운로드
25
인용
0
참고문헌
키워드
초록
대한민국 헌법 제10조는 인간의 존엄과 행복추구권을, 또한 동법 제11조 제1항은 “모든 국민은 법 앞에 평등하다. 누구든지 성별⋅종교 또는 사회적 신분에 의하여 정치적⋅경제적⋅사회적⋅문화적 생활의 모든 영역에 있어서 차별을 받지 아니한다”라고 각 명시함으로써 인간의 존엄을 중심으로 자유와 권리를 보장받도록 하고 있다. 인공지능을 앞세운 4차 산업혁명시대 우리는 법 앞에 평등하고, 각종 차별로부터 자유로울까? 특히 빅데이터 기반의 인공지능 시스템에서 자동화 처리로 인하여 정보주체가 받는 차별은 이미 우리 사회 깊숙이 자리하고 있지만, 우리는 차별을 당하고 있다는 것조차 지각하지 못하는 듯하다. 개인정보의 수집부터 삭제에 이르기까지 처리 메커니즘이 명확했던 과거와 달리, 거의 전 과정이 자동화된 오늘날 누구도 처리과정을 알 수 없는 이른바 ‘블랙박스화’로 인한 투명성 및 공정성의 문제는 새로운 사회문제로 자리 잡았다. 개인정보는 개인정보보호원칙에 따라 최소한의 정보만 투명하게 수집⋅처리되어야 하지만, 첨단 기술발전으로 인한 자동화 처리로 자신의 정보가 어디서 어떻게 수집⋅처리되는지 알기 어려워 정보주체의 개인정보자기결정권 행사가 사실상 불가능해지고 있다. 이러한 자동화 처리는 정보주체의 차별로 이어져 인종 간의 갈등으로 비화될 수 있고, 나아가 자동화 처리로 대표되는 인공지능에 대한 막연한 거부감으로 기술발전을 가로막는 장벽이 될 수 있다. 그러나 인공지능은 인간이 만든 알고리즘에 의해 작동한다는 사실을 간과해서는 안되는바, 자동화 처리로 인한 정보주체의 차별 문제를 해결하기 위한 연구가 필요하다. 이에 본고에서는 알고리즘의 편향성을 알고리즘 설계⋅제작자가 의도한 경우와 의도치 못한 경우로 나누어 살펴보고, 차별의 개념 및 정의를 통한 인공지능의 차별에 대한 국내외 사례를 살펴볼 것이다. 인공지능의 차별로부터 어떻게 정보주체를 보호할지 개인정보보호관점에서 바라보기 위해 EU의 GDPR을 중심으로 살펴보고, 이를 통하여 현재 인공지능의 주류인 머신러닝으로부터 비롯된 불투명성을 알고리즘의 본질로부터 해결하는 방안을 찾아보도록 하겠다.
Abstract
Article 10. of the Constitution of the Republic of Korea provides human dignity and the right to pursue happiness, and Article 11. paragraph 1 of the same law states, “All people are equal before the law. No one is discriminated against in all areas of political, economic, social or cultural life by gender, religion or social status.” In each case, freedom and rights are guaranteed around human dignity. Will we be equal before the law and free from all kinds of discrimination during the fourth industrial revolution era with artificial intelligence? The discrimination that data subject receive from automated processing, especially in big data-based artificial intelligence systems, is already deep in our society, but we do not seem to be even aware that we are being discriminated against. Unlike in the past when the mechanisms for processing personal data from personal data collection to deletion were clear, the issue of transparency and fairness caused by so-called ‘black boxing’, where no one knows the process of handling it, has emerged as a new social issue. Although the minimum amount of personal data should be collected and processed transparently according to the principles of relating to processing of personal data, it is becoming virtually impossible for the data subject to exercise its own personal data decision-making authority because it is difficult to know where and how to collect and process its data through automated processing due to advanced technology development. This automated processing can lead to bias and discrimination of data subjects, which can escalate into racial conflict, and further become a barrier to technological development with a vague sense of rejection of artificial intelligence represented by automated processing. However, we should not overlook the fact that artificial intelligence works by human-made algorithms, and research is needed to solve the problem of bias and discrimination in data subjects due to automated processing. In this paper, we will divide the bias of algorithms into the intended and unintended cases of algorithms, and look at domestic and foreign cases of discrimination of artificial intelligence through the definition of discrimination. In order to see how to protect the data subject from discrimination of artificial intelligence, we will focus on the EU’s GDPR from a personal data protection perspective, and look for solutions based on the nature of the algorithm for the opacity derived from the machine learning algorithm, which is currently the mainstream of artificial intelligence.
참고문헌 (59)
- 개인정보보호위원회, "개인정보의 가치와 개인정보 침해에 따른 사회적 비용 분석" (2017), 진한엠앤비
- 인정보보호위원회, "EU 개인정보보호법제(GDPR) 분석 및 개인정보보호법제 개선입법수요 연구" (2017), 진한엠앤비
- 고학수, "Naver Privacy White Paper" (2018)
- 권영준, "자율주행자동차 사고와 민사책임", 민사법학, 75, pp.449~496 (2016), 한국민사법학회
- 김성용, "(法曹)영역으로의 인공지능 도입에 대한 제언: 영업비밀 침해사건을중심으로", 서울대학교 기술과법센터 Law & Technology, 15(2) (2019)
- 박노형, "EU 개인정보보호법 : GDPR을 중심으로" (2017), 박영사
- 안수현, "지능형 인공지능(AI)의 발전에 따른 자본시장법제 정비방향과 과제", 증권법연구, 18(3), pp.137~176 (2017), 한국증권법학회[DOI]
- 양종모, "인공지능에 의한 판사의 대체 가능성 고찰", 홍익법학, 19(1), pp.1~29 (2018), 법학연구소[DOI]
- 이대열, "지능의 탄생" (2017), 바다출판사
- 이대희, "법적 이슈 공감하기 2017" (2017), 세창출판사
- 이시윤, "신민사소송법" (2014), 박영사
- 이재희, "사적 자치와 차별금지법", 저스티스, 165, pp.33~70 (2018), 한국법학원[DOI]
- 이창범, "개인정보 보호법" (2012), 법문사
- 한국과학기술평가원, "딥러닝(Deep Learning) 기술의 이해와 연구개발 정책과제" (2016)
- 한희원, "인공지능(AI) 법과 공존윤리" (2018), 박영사
- 허유선, "인공지능에 의한 차별과 그 책임 논의를 위한 예비적 고찰 -알고리즘의 편향성 학습과 인간 행위자를 중심으로-", 한국여성철학, 29, pp.165~210 (2018), 한국여성철학회[DOI]
- 클라우드, "인공지능", pp.지식산업정보원, 딥러닝 기술동향 및 ICT융합 헬스케어산업 실태분석
- 児玉哲彦, "인공지능, 아직 쓰지 않은 이야기 : 2030년 대학생 마리가 들려주는 AI 100년사" (2017), 샘터
- Adler, Philip, "Auditing Black-box Models for Indirect Influence", IEEE International Conference on Data Mining (2016)
- Calo, Ryan, "Robots as Legal Metaphor", Harvard Journal of Law &Technology, 30(1) (2016)
- European Data Protection Supervisor, "Towards a new digital ethics (Opinion)", EDPS, ~ (2015)
- Hornung, Gerrit, "Data protection in Germany I: The population census decision and the right to informational self-determination", Computer Law & Security Report, 25(1) (2009)
- ICO, "Big data, artificial intelligence, machine learning and data protection, Version: 2.2" (2017)
- Lambert, Paul, "Understanding the New European Data Protection Rules" (2017), Auerbach Publications
- McCarthy, John, "A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence: August 31, 1955", AI Magazine, 27(4) (2006)
- Muller, Catelijne, "Artificial Intelligence－The consequences of artificial intelligence on the (digital) single market, production, consumption, employment and society (own-initiative opinion)" (2017), EESC
- Reidenberg, Joel R, "Resolving Conflicting International Data Privacy Rule in Cyberspace", Stanford Law Review, 52 (1999)
- Rose, John, "Rethinking Personal Data: Strengthening Trust", The Boston Consulting (2012)
- Schwartz, Paul M, "The EU-U.S. Privacy Collision: A Turn to Institution and Procedures", Harvard Law Review, 126 (2013)
- Seaver, Nick, "Media in Transition 8" (2013)
- Surden, Harry, "Machine Learning and law", Washington Law Review, 89 (2014)
- van den Hoven Genderen, Robert, "Privacy and Data Protection in the Age of Pervasive Technologies in AI and Robotics", EDPL, pp.3~ (2017)
- Verbert, Katrien, "Visualizing Recommendations to Support Exploration, Transparency and Controllability", 18th International Conference on Intelligent User Interfaces, IUI ’13, Santa Monica (2013)
- Witten, IH, "Data Mining: Practical Machine Learning Tools and Techniques" (2016)
- "금융권역별 감독실태 Ⅱ(은행⋅신용카드⋅보험 권역 등을 중심으로)" (2012), 감사원[URL]
- "보도자료", 국세청[URL]
- "보도자료", 금융감독원[URL]
- "포스트휴먼", 네이버[URL]
- "The identity of the people on Google’s artificial intelligence ethics board is still a mystery"[URL]
- "About"[URL]
- "EU fine Facebook 110 million euros oner WhatsApp deal"[URL]
- "European commission Preess Release Database"[URL]
- "Big Data"[URL]
- "금융사 장애인 차별…‘대출’ 문턱 더 높아"[URL]
- "WHAT IS LGBT"[URL]
- "How to Hold Algorithms Accountable"[URL]
- "O’Neil Risk Consulting and Algorithmic Auditing"[URL]
- "How We Analyzed the COMPAS Recidivism Algorithm"[URL]
- "Judge Now Using Artificial Intelligence to Rule on Prisoners"[URL]
- "DEFINTION chatbot"[URL]
- "A beauty contest was judged by AI and the robots didn’t like dark skin"[URL]
- "New AI can guess whether you’re gay or straight from a photograph"[URL]
- "Tay, Microsoft’s AI chatbot, get a crash course in racism from Twitter"[URL]
- "Women less likely to be shown aid for high-paid jobs on Google, study show"[URL]
- "The implementation of big data-impact of big data on finance and possible influence on society"[URL]
- "Amazon reportedly scraps internal AI recruiting tool that was biased against women"[URL]
- "Google Photos labeled black People ‘gorillas’"[URL]
- "헌재 1994. 2. 24. 92헌바43 결정", ~
- "대법원 1984. 6. 12. 선고 81다558 판결", ~