디지털 플랫폼의 콘텐츠 추천 알고리즘과 법적 책임
A Legal Study on the Regulation of Content Recommendation Algorithms in Digital Platforms
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
디지털 플랫폼은 여론 형성과 문화 창출의 핵심 주체로 부상했으며, 이들의 콘텐츠 추천 알고리즘이 사용자의 정보 접근과 소비에 미치는 영향력이 확대되면서 알고리즘의 편향성과 차별성이 사회적 문제로 대두되고 있다. 그러나 알고리즘의 불투명성, 책임 소재의 모호성, 국경을 초월하는 서비스의 특성으로 인해 이에 대한 규율은 쉽지 않은 상황이다. 유럽연합을 위시하여 독일, 영국, 미국 및 일본 등 각국에서는 플랫폼의 책임성 강화와 알고리즘 투명성 제고를 위한 다양한 법제도적 노력을 기울이고 있다. 그러나 이러한 규제들은 글로벌 기업의 영업비밀 보호 요구와의 충돌, 국경을 초월하는 서비스 특성으로 인한 집행의 한계, 알고리즘 불투명성으로 인한 위법행위 입증의 어려움 등의 문제에 직면해 있다. 이러한 문제를 해결하기 위해 일정 규모 이상의 디지털 플랫폼으로 하여금 알고리즘의 영업비밀 인정 기준, 검색⋅배열 원칙, 알고리즘 공개 기준⋅범위⋅방법 등을 보고하도록 하는 투명성 보고 제도를 도입하는 방안을 고려해 볼 수 있다. 또한 알고리즘의 의사결정이 사용자의 권리를 부당하게 제한하거나 차별적 효과를 야기한다는 합리적 의심이 있는 경우에 한하여 알고리즘 설명요구권을 인정하되, 집단적 구제수단을 통해 해결하도록 하는 방안도 고려해 볼 수 있다. 그리고 알고리즘의 공개에 있어서는 완전한 공개가 아닌 의미 있는 투명성을 목표로 하여, 의사결정의 주요 기준과 그 영향을 이해할 수 있는 수준의 정보 공개를 단계적으로 도입하여야 할 것이다. 나아가 규제의 실효성 확보를 위해서는 전문적이고 독립적인 감독 체계를 구축할 필요가 있다. 이러한 감독기구에는 알고리즘의 기술적 특성과 그 영향을 실질적으로 평가할 수 있는 전문가의 참여가 필수적이며, 유관기관들과의 협력 체계도 마련되어야 한다. 그리고 플랫폼 사업자의 법위반에 대한 실효성 있는 억지력 확보를 위해 제한적 범위 내에서 징벌적 과징금 제도의 도입을 고려해 볼 수 있다. 또한 국제적 차원의 표준화와 협력을 통해 각국 규제기관이 인증된 알고리즘을 상호 인정하고 정보를 공유하는 체계를 마련해야 한다. 궁극적으로 알고리즘 규제는 플랫폼의 혁신과 사용자 보호라는 두 가지 가치의 조화를 도모해야 한다. 과도한 규제는 플랫폼의 혁신을 저해할 수 있으며, 이는 결과적으로 사용자의 편익을 감소시킬 수 있기 때문이다. 따라서 향후 알고리즘 규제는 기술 발전의 특성을 고려하면서도 실효성 있는 사용자 보호 장치를 마련하는 방향으로 발전되어야 할 것이다.
Abstract
As content recommendation algorithms on digital platforms become increasingly influential in determining how users access and consume information, concerns regarding algorithmic bias and discrimination have emerged as significant societal issues. However, the opaqueness of algorithms, the ambiguity of accountability, and the cross-border nature of these services present substantial challenges in regulating these systems. In response to these challenges, various legislative efforts have been initiated by the European Union, Germany, the United Kingdom, the United States, and Japan to enhance platform accountability and increase algorithmic transparency. However, these regulatory endeavors encounter significant challenges, including conflicts with the need to protect the trade secrets of global companies, enforcement limitations due to the cross-border nature of services, and difficulties in proving misconduct due to algorithmic opacity. It is recommended that a transparency reporting system be introduced to address these issues. This system would require digital platforms of a certain size to report on the criteria for recognizing trade secrets in their algorithms, the principles of search and arrangement, and the basis, scope, and method of algorithmic disclosure. It is also advisable to recognize a right to an algorithmic explanation only where there is reasonable suspicion that the algorithm's decision-making unduly restricts users' rights or has a discriminatory effect but to provide for collective remedies. Regarding algorithmic disclosure, the goal should be meaningful transparency, not full disclosure, with a phased approach to disclosing information at a level that allows users to understand the key criteria for decision-making and its impact. Furthermore, establishing a specialized and autonomous oversight mechanism is imperative to ensure the efficacy of regulatory measures. This supervisory body should comprise experts capable of evaluating algorithms' technical characteristics and ramifications, and it should establish a collaborative network with pertinent organizations. Additionally, implementing punitive fines within a circumscribed scope could serve as an effective deterrent for platform operators. Moreover, promoting standardization and collaboration at the international level is crucial for regulators to acknowledge certified algorithms and exchange information mutually. The optimal approach to algorithmic regulation would strike a balance between fostering platform innovation and ensuring user protection. It is crucial to recognize that excessive regulation can impede platform innovation, which, in turn, can diminish user benefits. Consequently, the evolution of future algorithmic regulation must account for the evolving nature of technology while providing effective user protections.
참고문헌 (79)
- 유럽연합 인공지능법안의 개요 및 대응방안, "고학수", 10~29 (2021)
- 김병연, "인공지능 통제수단으로서의 주요국 규제 입법의 동향과 시사점", 유럽헌법연구, (42), pp.253~307 (2023)
- 김윤명, "알고리즘 공개와 영업비밀 보호 간의 긴장관계", 사법, (66), pp.869~909 (2023)
- 김재완, "EU 일반정보보호규정(GDPR)의 알고리즘 자동화 의사결정에 대한 통제로써 설명을 요구할 권리에 대한 쟁점 분석과 전망", 민주법학, 통권 : 69, pp.277~298 (2019)
- 박노형, "EU AI법 개인정보보호 관련 규정 검토", 사법, (68), pp.33~62 (2024)
- 박상돈, "헌법상 자동의사결정 알고리즘 설명요구권에 관한 개괄적 고찰", 헌법학연구, 23(3), pp.183~218 (2017)
- 서창배, "EU 디지털 시장법 시행에 따른 경쟁법 적용의 문제-데이터 독점과 개인정보 보호의 문제를 중심으로-", 경쟁법연구, 47, pp.92~128 (2023)
- 성준호, "메타버스시대 플랫폼사업자의 경쟁 제한적 행위에 대한 유럽연합의 규율-EU디지털시장법(안)에서의 게이트키퍼(gatekeeper)의 경쟁제한행위금지와 공정성보장에 관하여-", 재산법연구, 39(2), pp.117~148 (2022)
- 안현진, "디지털 서비스법(Digital Services Acts)의 역할 및 입법 조치 : 유럽 디지털 권리단체의 ‘올바른 플랫폼 규제’를 중심으로", 정보통신정책, 32(7), pp.1~7 (2020)
- 양지원, "유럽연합 디지털시장법의 집행과 평가", 유럽연구, 42(1), pp.49~79 (2024)
- 오현석, "EU 디지털시장 규제 연구 : 디지털시장법안과 관련 사례를 중심으로", 홍익법학, 23(2), pp.281~312 (2022)
- 윤태영, "온라인플랫폼에서의 중소·벤처기업 보호를 위한 법적 과제-유럽연합에서의 거대 온라인플랫폼의 경쟁제한에 대비한 ‘디지털시장법(Digital Market Act)’ 제정 내용을 중심으로", 아주법학, 15(3), pp.40~63 (2021)
- 이권일, "독일에서의 규제 논의의 현황과 과제-독일 네트워크법(NetzDG)과 EU 디지털서비스법(DSA)을 중심으로-", 공법학연구, 25(2), pp.3~30 (2024)
- 이대희, "인공지능에 의한 개인정보의 자동 처리에 대한 투명성 확보에 관한 연구 -알고리즘에 의한 자동 의사결정에 따른 ‘설명권’ 도입을 중심으로-", 저스티스, 통권 : 200, pp.298~324 (2024)
- 이병준, "디지털 서비스법(DSA)과 온라인 플랫폼의 책임", 외법논집, 48(1), pp.19~42 (2024)
- 이병준, "유럽연합 디지털 서비스법을 통한 플랫폼 규제-디지털 서비스법 초안의 주요내용과 입법방향을 중심으로-", 소비자법연구, 7(2), pp.181~210 (2021)
- 이봉의, "유럽 디지털시장법(Digital Markets Act) : 목적, 기본원리와 접근방법을 중심으로", 상사법연구, 43(2), pp.499~547 (2024)
- 이부하, "디지털 시대 정보중개자에 대한 법적 규제 - 알고리즘에 대한 법적 규제를 중심으로-", 경제규제와 법, 17(1), pp.69~86 (2024)
- 이숙연, "인공지능 관련 규범 수립의 국내외 현황과 과제", 법조, 72(1), pp.442~488 (2023)
- 이재호, "EU 디지털서비스법과 국내 소비자법의 시사점", 소비자정책동향, (111), pp.1~25 (2021)
- 이황, "주요 국가들의 온라인 플랫폼 등 빅테크 대상 규제동향과 시사점", 통상법률, (165), pp.48~90 (2024)
- 임흥순, "디지털 플랫폼의 미래 정책 방안 모색", 한국위기관리논집, 18(6), pp.151~164 (2022)
- 전우정, "EU AI Act의 위험 분류 체계와 우리나라 AI 정책에 대한 시사점", 정보법학, 28(2), pp.169~215 (2024)
- 최경미, "디지털서비스 투명성 · 개인정보보호 · 위기대응에 관한 법 연구-EU 디지털서비스법(DSA)을 중심으로-", 미국헌법연구, 33(3), pp.177~214 (2022)
- 최난설헌, "EU 디지털 시장법의 함의와 경쟁법의 역할", 선진상사법률연구, (100), pp.67~93 (2022)
- 최요섭, "유럽연합 디지털시장법의 집행과 평가", 경쟁저널, (224), pp.16~30 (2024)
- 최요섭, "유럽연합의 디지털 입헌주의에 관한 연구 : 디지털서비스법과 한국에 주는 시사점", EU연구, 64, pp.415~447 (2022)
- Ananny, M., "Seeing without knowing : Limitations of the transparency ideal and its application to algorithmic accountability", new media & society, 20(3), pp.973~989 (2018)
- Banerjee, S., "Social media analytics for end-users' expectation management in information systems development projects", Information Technology and People, 34(6), pp.1~23 (2021)
- Bonina, C., "Digital platforms for development : Foundations and research agenda", Information Systems Journal, 31(6), pp.869~901 (2021)
- Burgess, J., "YouTube: Online video and participatory culture" (2018), Polity Press
- Cini, M., "Digital Single Market and the EU Competition Regime : An Explanation of Policy Change", Journal of European Integration, 44, pp.41~57 (2022)
- Constantinides, P., "Introduction-platforms and infrastructures in the digital age", Information Systems Research, 29(2), pp.381~400 (2018)
- De Gregorio, G., "The European risk-based approaches : Connecting constitutional dots in the digital age", Common Market Law Review, 59(2), pp.473~500 (2022)
- Diakopoulos, N., "Accountability, transparency, and algorithms", The Oxford handbook of ethics of AI, 17(4), pp.197~ (2020)
- Dias Oliva, T., "Content moderation technologies : Applying human rights standards to protect freedom of expression", Human Rights Law Review, 20(4), pp.607~640 (2020)
- Edwards, L., "Slave to the algorithm? Why a'right to an explanation'is probably not the remedy you are looking for", Duke L. & Tech. Rev, 16, pp.18~84 (2017)
- Einwiller, S. A., "How Online Content Providers Moderate User-Generated Content to Prevent Harmful Online Communication : An Analysis of Policies and Their Implementation", Policy and Internet, 12(2), pp.184~206 (2020)
- Elkin-Koren, N., "Contesting algorithms : Restoring the public interest in content filtering by artificial intelligence", Big Data and Society, 7(2), pp.1~13 (2020)
- Fletcher, A., "International pro-competition regulation of digital platforms : healthy experimentation or dangerous fragmentation?", Oxford Review of Economic Policyy, 39(1), pp.12~33 (2023)
- Gawer, A., "Bridging differing perspectives on technological platforms : Toward an integrative framework", Research Policy, 43(7), pp.1239~1249 (2014)
- Gawer, A., "Platforms, markets and innovation: An introduction", Platforms, markets and innovation, 1, pp.1~18 (2009)
- Gillespie, T., "Media technologies: Essays on communication, materiality, and society", pp.167~194 (2014), MIT Press
- Gonçalves, J., "Common sense or censorship : How algorithmic moderators and message type influence perceptions of online content deletion", New Media and Society, 25, pp.2595~2617 (2021)
- Gorwa, R., "Algorithmic content moderation : Technical and political challenges in the automation of platform governance", Big Data and Society, 7(1), pp.1~15 (2020)
- Hagiu, A., "Multi-sided platforms", International Journal of Industrial Organization, 43, pp.162~174 (2015)
- Hildebrandt, M., "Privacy as protection of the incomputable self : From agnostic to agonistic machine learning", Theoretical Inquiries in Law, 20(1), pp.83~121 (2019)
- Kor-Sins, R., "The alt-right digital migration : A heterogeneous engineering approach to social media platform branding", New Media and Society, 25, pp.2321~2338 (2021)
- Liu, Q., "Understanding Social Media Information Sharing in Individuals with Depression: Insights from the Elaboration Likelihood Model and Schema Activation Theory", Psychology Research and Behavior Management, pp.1587~1609 (2024)
- Medzini, R., "Enhanced self-regulation : The case of Facebook’s content governance", New Media & Society, 24(10), pp.2227~2251 (2022)
- Meese, J., "Facebook, news media and platform dependency : The institutional impacts of news distribution on social platforms", New Media and Society, 23, pp.2367~2384 (2020)
- Mügge, D., "The securitization of the EU’s digital tech regulation", Journal of European Public Policy, 30, pp.1431~1446 (2023)
- Nonnecke, B., "EU and US legislation seek to open up digital platform data", Science, 375(6581), pp.610~612 (2022)
- Papaevangelou, C., "‘The non-interference principle’ : Debating online platforms’ treatment of editorial content in the European Union's Digital Services Act", European Journal of Communication, 38(5), pp.466~483 (2023)
- Parker, G. G., "Platform revolution: How networked markets are transforming the economy and how to make them work for you" (2017), WW Norton & Company
- Pasquale, F., "The black box society: The secret algorithms that control money and information" (2015), Harvard University Press
- Poell, T., "Three Challenges for Media Studies in the Age of Platforms", Television & New Media, 21, pp.650~657 (2020)
- Ren, J., "Digital platforms in the news industry : how social media platforms impact traditional media news viewership", European Journal of Information Systems, 33, pp.1~18 (2022)
- Riedl, M. J., "Antecedents of support for social media content moderation and platform regulation : the role of presumed effects on self and others", Information Communication and Society, 25, pp.1632~1649 (2021)
- Ruiz, C. D, "Disinformation on digital media platforms: A market-shaping approach" (2023), New Media and Society
- Sanders, T., "Non-consensual sharing of images : Commercial content creators, sexual content creation platforms and the lack of protection", New Media and Society, 27(1), pp.84~105 (2023)
- Schlag, G., "European Union’s regulating of social media : A discourse analysis of the digital services act", Politics and Governance, 11(3), pp.168~177 (2023)
- Seipp, T, "Media Concentration Law : Gaps and Promises in the Digital Age", Media and Communication, 11(2), pp.392~405 (2023)
- Tafesse, W., "Content creators' participation in the creator economy : Examining the effect of creators’ content sharing frequency on user engagement behavior on digital platforms", Journal of Retailing and Consumer Services, 73, pp.103357~ (2023)
- Törnberg, P., "How platforms govern : Social regulation in digital capitalism", Big Data and Society, 10 (2023)
- Tzuo, T, "Subscribed: Why the Subscription Model Will Be Your Company's Future-and What to Do About It" (2018), Penguin
- van Alstyne, M. W., "Reasons platforms fail", Harvard business review, 31(6), pp.2~6 (2016)
- Wu, Q., "The Law and Economics of Tying in Digital Platforms : Comparing Tencent and Android", Journal of Competition Law and Economics, 19(1), pp.103~122 (2022)
- Yeung, K., "Algorithmic regulation : A critical interrogation", Regulation & governance, 12(4), pp.505~523 (2018)
- Yu, M. Y., "Social recommendation algorithms with user feedback information", Concurrency and Computation : Practice and Experience, 33(22), pp.e5934~ (2020)
- Zilian, S., "Digital inequality in Austria: Empirical evidence from the survey of the OECD “Programme for the International Assessment of Adult Competencies”", Technology in Society, 63, pp.101397~ (2020)
- "Regulation (EU) 2022/2065 of the European Parliament and of the Council of 19 October 2022 on a Single Market For Digital Services and amending Directive 2000/31/EC (Digital Services Act)"[URL]
- "Regulation (EU) 2022/1925 of the European Parliament and of the Council of 14 September 2022 on contestable and fair markets in the digital sector and amending Directives (EU) 2019/1937 and (EU) 2020/1828"[URL]
- "Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence"[URL]
- "Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken"[URL]
- "Online Safety Act 2023"[URL]
- "Communications Decency Act of 1996"[URL]
- "特定電気通信役務提供者の損害賠償責任の制限及び発信者情報の開示に関する法律"[URL]