본문 바로가기
KERD
논문KCI 등재

알고리듬 기반 자동화된 의사결정의 설명 가능성에 대한 연구

A Study on the Explainability by Algorithm-Based Automated Decision Making

김기태|황용석
언론정보연구소 (Institute of Communication Research)|2020.08|언론정보연구 (Journal of Communication Research)|제57권 제3호|pp. 41-80|DOI 10.22174/jcr.2020.57.3.41

0

조회

0

다운로드

9

인용

0

참고문헌

키워드

인공지능GDPRartificial intelligence알고리듬algorithm설명가능성설명을 요구할 권리Explainabilityright to explanation
주제분류신문방송학

초록

인공지능 기술의 급속한 발전에 따라 알고리듬이 매개하는 자동화된 의사결정이 확산되고 있다. 알고리듬의 영향력이 커지면서, 이로 인해 발생하는 문제에 대응하기 위해 문제의 원인과 영향을 설명할 책임, 그리고 가장 중요하게는, 발생한 문제의 책임을 누가 져야 하는지에 대한 정책적 접근의 필요성이 새롭게 대두되면서, 알고리듬 책무성 개념이 활발하게 논의되고 있다. 알고리듬 책무성의 한 차원으로 GDPR에서는 설명을 요구할 권리가 제시되었다. 이는 알고리듬이 만든 특정화된 결정에 대해 정보주체가 이해하고 자신의 권리를 보호하기 위해서 정보관리자에게 설명을 요구할 권리가 있음을 의미한다. 그러나 설명의 요구범위와 설명가능성과 관련해서 다양한 관점이 제시되고 있어, 현재까지는 불안정한 개념으로 자리잡고 있다. 이에 이 글에서는 설명을 요구할 권리에 대한 법률적 해석과는 별개로, 알고리듬 설명가능성 문제를 컴파스(COMPAS) 알고리듬 공정성을 둘러싼 논쟁을 중심으로 논하였다. 컴파스 알고리듬 사례를 중심으로 알고리듬이 발생시키는 문제의 유형을 살펴보고, 알고리듬의 설명가능성을 확보하기 위한 검증 방법의 하나로 리버스 엔지니어링 기법을 소개하였다. 끝으로 데이터에 대한 요구가 가능하고 사전 설계단계에서 사회적 규제의 필요성이 있는 공공 분야 알고리듬에 대한 사전 영향성 평가를 제안했다.

Abstract

Algorithmic systems in social media platforms are increasingly being used as part of decision-making processes in both public and private sectors, with potentially significant consequences for individuals, organizations, and societies as a whole. However, there are growing concerns that many of these systems are opaque to people affected by their use due to the lack of clear explanations for how a particular algorithmic decision is made. This study first introduces problems of personalized algorithm in social media platforms (i.e., the creation of filter bubble in online communities, collection of private information of social media users, and algorithmic bias and unfairness) as a backdrop of rising issues of algorithmic accountability. In addition, the current study illustrates a case of COMPAS and explores explanability of algorithm in the case. Finally, this research suggests revers engineering techniques as a method to promote algorithmic accountability.

참고문헌 (61)

  1. 김기태, "알고리듬이 이용자에게 미친 영향과 방법론적 쟁점: 알고리듬 편향(bias)과 개인정보 보호(privacy protection)를 중심으로", 사이버 커뮤니케이션학회 공동주최 지능정보화 이용자 보호 학술 세미나 ‘알고리듬 시대 이용자 연구 어떻게 할 것인가’ 자료집, pp.17~35 (2018), 정보통신정책연구원
  2. 김정민, "알고리즘 기반 자동 추천 검색어의 표현물적 특성과 법적 쟁점 — 관련 해외 판결을 중심으로 —", 언론과 법, 18(2), pp.1~32 (2019), (사)한국언론법학회[DOI]
  3. 박승택, "기계학습 기반의 뉴스 추천 서비스 구조와 그 효과에 대한 고찰: 카카오의 루빅스를 중심으로", 사이버커뮤니케이션학보, 34(1), pp.5~48 (2017), 사이버커뮤니케이션학회
  4. "네이버 내년부터 설명가능한 뉴스 추천서비스 도입" (2018), 이기범[URL]
  5. GDPR 설명책무성과 그 쟁점, "이선구", 서울대학교, 1~21, pp.2019-19-02 (2019)
  6. EU의 알고리듬 규제 이슈와 정책적 시사점, "이원태", KISDI, ~, pp.「Premium Report」 16-12 (2016)
  7. 이재현, "인공지능 기술비평" (2019), 커뮤니케이션북스
  8. 조수영, "개인정보보호법과 EU의 GDPR에서의 프라이버시 보호에 관한 연구", 법학논고, (61), pp.117~148 (2018), 법학연구원[DOI]
  9. 황용석, "데이터 시대의 언론학 연구", pp.13~45 (2017), 커뮤니케이션북스
  10. 알고리듬 매개성과 정치적 양분사회: 기술과 사회심리의 상호작용 효과, "황용석", 서울대학교, 36~63, pp.2019-19-02 (2019)
  11. 황용석, "개인화 서비스 진전에 따른 자동추천 시스템 연구 동향과 방법론적 특성 연구", 사이버커뮤니케이션학보, 36(2), pp.221~254 (2019), 사이버커뮤니케이션학회[DOI]
  12. 알고리듬 이용자 보호 이슈의 방법론적 접근, "황용석", 정보통신정책연구원, ~ (2018)
  13. Agarwal, A., "A Reductions Approach to Fair Classification", International Conference on Machine Learning, pp.60~69 (2018)
  14. Ananny, M., "Seeing without knowing: Limitations of the transparency ideal and its application to algorithmic accountability", New Media & Society, 20(3), pp.973~989 (2018)
  15. "Machine Bias There’s software used across the country to predict future criminals. And it’s biased against blacks" (2016)[URL]
  16. Bellamy, R. K., "AI Fairness 360: An extensible toolkit for detecting and mitigating algorithmic bias", IBM Journal of Research and Development, 63(4), pp.4~14 (2019)
  17. Chen, P. D., "Transparency for whom? Impacts of accountability movements for institutional researchers and beyond", New Directions for Institutional Research, 166, pp.11~21 (2016)
  18. Corbett-Davies, S., "Algorithmic decision making and the cost of fairness", Proceedings of the 23rd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, pp.797~806 (2017)
  19. Cormen, T. H, "Introduction to Algorithms" (2009), MIT Press
  20. Diakopoulos, N., "Algorithmic accountability: Journalistic investigation of computational power structures", Digital Journalism, 3(3), pp.398~415 (2015)
  21. Diakopoulos, N., "Accountability in algorithmic decision making", Communications of the ACM, 59(2), pp.56~62 (2016)
  22. Diakopoulos, N., "Algorithmic transparency in the news media", Digital Journalism, 5(7), pp.809~828 (2016)
  23. "What is an artificial neural network? Here’s everything you need to know" (2019)[URL]
  24. Dressel, J., "The accuracy, fairness, and limits of predicting recidivism", Sci Adv, 4(1) (2018)
  25. Eilam, M., "Reversing: Secrets of Reverse Engineering" (2005), Wiley
  26. Feldman, M., "Certifying and removing disparate impact", proceedings of the 21th ACM SIGKDD international conference on knowledge discovery and data mining, pp.259~268 (2015)
  27. Gozdecka, D. A, "From multiculturalism to postmulticulturalism: Trends and paradoxes", Journal of Sociology, 50(1), pp.51~64 (2014)
  28. "Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation 2016/679 (wp251rev.01)"[URL]
  29. Hogan, B., "Social media giveth, social media taketh away: Facebook, friendships, and APIs", International Journal of Communication, 12, pp.592~611 (2018)
  30. Isenberg, D. J., "Group polarization: A critical review and meta-analysis", Journal of Personality and Social Psychology, 50(6), pp.1141~ (1986)
  31. James, G., "An introduction to statistical learning (Vol. 112)" (2013), Springer
  32. "The charter of algorithm ethics" (2018)[URL]
  33. Kleinberg, J., "Inherent Trade-Offs in the Fair Determination of Risk Scores", Proc. 8th Conf. on Innovations in Theoretical Computer Science (2016)
  34. Koene, A., "Editorial responsibilities arising from personalization algorithms", ORBIT Journal, 1(1), pp.1~10 (2017)
  35. Kroll, J. A., "Accountable algorithms", U. Pa. L. Rev., 165, pp.633~ (2018)
  36. "How we analyzed the COMPAS recidivism algorithm" (2016)[URL]
  37. Latzer, D., "The parable of Google Flu: traps in big data analysis", Science, 343(6176), pp.1203~1205 (2014)
  38. Lycet, M., "'Datafication': making sense of (big) data in a complex world", European Journal of Information Systems, 22, pp.381~386 (2014)
  39. Couldry, N., "Data colonialism: Rethinking big data’s relation to the contemporary subject", Television & New Media, 20(4), pp.336~349 (2019)
  40. Mason, M., "Transparency for whom? Information disclosure and power in global environmental governance", Global Environmental Politics, 8(2), pp.8~13 (2008)
  41. Mitchell, M., "An introduction to genetic algorithms" (1998), MIT press
  42. Mittelstadt, B., "From individual to group privacy in big data analytics", Philosophy & Technology, 30(4), pp.475~494 (2017)
  43. Mittelstadt, B. D., "The ethics of algorithms: Mapping the debate", Big Data & Society, 3(2), pp.1~21 (2016)
  44. Privacy protection report, "Naver privacy protection center", Naver, ~ (2019)
  45. Pariser, E., "The filter bubble: What the Internet is hiding from you" (2011), Penguin UK
  46. Pasquale, F., "The black box society: The secret algorithms that control money and information" (2015), Harvard University Press
  47. Algorithmic impact assessments: A practical framework for public agency accountability, "Reisman, D.", AI Now Institute, 1~22 (2018)
  48. Ribeiro, M. T., "" Why should I trust you?" Explaining the predictions of any classifier", Proceedings of the 22nd ACM SIGKDD international conference on knowledge discovery and data mining, pp.1135~1144 (2016)
  49. Ribeiro, M. H., "Auditing radicalization pathways on YouTube", Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency, pp.131~141 (2020)
  50. "Google’s new AI tool could help decode the mysterious algorithms that decode everything" (2019)[URL]
  51. Ruggieri, S., "Data mining for discrimination discovery", ACM Transactions on Knowledge Discovery from Data (TKDD), 4(2), pp.1~40 (2010)
  52. Sadowski, J., "When data is capital: Datafication, accumulation, and extraction", Big Data & Society, 6(1), pp.1~12 (2019)
  53. Schafer, J. B., "E-commerce recommendation applications", Data mining and Knowledge Discovery, 5(1-2), pp.115~153 (2001)
  54. Schedl, M., "Current challenges and visions in music recommender systems research", International Journal of Multimedia Information Retrieval, 7(2), pp.95~116 (2018)
  55. "On the web’s cutting edge, anonymity in name only" (2010)[URL]
  56. Sunstein, C., "Republic.com" (2001), University Press
  57. "The political effects of algorithms: a look at Facebook and Google" (2019)[URL]
  58. Tramèr, F., "Stealing Machine Learning Models via Prediction APIs", USENIX Security Symposium, pp.601~618 (2016)
  59. Tufekci, Z., "Algorithmic harms beyond Facebook and Google: Emergent challenges of computational agency", Colo. Tech. LJ, 13, pp.203~216 (2015)
  60. Weber, J., "Scenarios in business ethics research: Review, critical assessment, and recommendations", Business Ethics Quarterly, 2(2), pp.137~160 (2019)
  61. Zafar, M. B., "Fairness beyond disparate treatment & disparate impact: Learning classification without disparate mistreatment", Proceedings of the 26th international conference on world wide web, pp.1171~1180 (2017)

관련 논문AI추천

EU 일반정보보호규정(GDPR)의 알고리즘 자동화 의사결정에 대한 통제로써 설명을 요구할 권리에 대한 쟁점 분석과 전망김재완민주주의법학연구회 · 민주법학2019 · 제69호재범의 위험성 예측 알고리즘과 설명가능성 및 공정성의 문제양종모대검찰청 · 형사법의 신동향2021 · 제70호인공지능의 설명 가능성 - 책임 공백 문제와 설명을 요구할 권리를 중심으로조성훈법학연구소 · IP & Data 法2022 · 제2권 제1호AI기본법 제정에 따른 행정설명청구권의 입법 필요성과 법적 쟁점김응준, 김하림법학연구원 · 법학논총2025 · 제38권 제2호알고리즘 투명화법과 설명요구권에 관한 연구 - 알고리즘 투명화법안의 검토를 중심으로 -이영우한국컴퓨터정보학회 · 한국컴퓨터정보학회논문지2021 · 제26권 제11호지능정보사회에서 알고리즘의 법･규제의 방향김일환, 오정하법과정책연구원 · 법과정책2021 · 제27권 제3호

이 간행물의 다른 논문 (7건)

인공지능과 미디어-커뮤니케이션 연구이재현pp. 5-40인공지능 기술과 유료방송 미디어 규제에 대한 도전홍대식pp. 81-121인공지능과 윤리적 이슈박남기pp. 122-154인공지능은 사회적 존재인가?안도현pp. 155-195인공지능과 헬스 커뮤니케이션김지은, 송하연, 김태년pp. 196-238
원문 보기