디지털 플랫폼에 의한 ‘사적 검열(private censorship)’
Private Censorship by Digital Platforms
0
조회
0
다운로드
12
인용
0
참고문헌
키워드
초록
수많은 개인이 누구나 자신의 콘텐츠를 업로드할 수 있는 디지털 플랫폼 환경은 사회적으로 문제가 되는 콘텐츠의 유통 또한 기하급수적으로 증가할 수 있음을 시사한다. 또한 디지털 플랫폼을 통해 발화할 수밖에 없는 매체 이용 환경은 문제 되는 표현의 관리자가 디지털 플랫폼일 수밖에 없음을 보여준다. 이러한 상황에서 사회적으로 문제가 되는 콘텐츠를 삭제, 차단하거나, 이용자 계정을 정지, 삭제, 차단하는 식의 콘텐츠 ‘모더레이션(moderation)’ 업무가 디지털 플랫폼의 핵심적인 업무가 되어 가고 있다. 콘텐츠 ‘유통’ 자체가 핵심적인 사업 활동인 만큼 이용자 및 콘텐츠를 관리하는 것이 사업의 본질이 되기 때문이다. 이러한 상황에서 이 연구는 민간 사업자에 의한 검열을 의미하는 ‘사적 검열’ 논의를 통해 국가와 플랫폼의 관계, 글로벌-로컬의 관계, 플랫폼-개인의 관계를 개념화하였다. 또한 구체적인 사적 검열의 사례를 국가-플랫폼의 관계, 플랫폼의 모더레이션 강화 유형 및 사례 분석을 통해 살펴보았다. 먼저 이 연구는 개인 간 콘텐츠의 유통을 매개하는 플랫폼의 매체적 특성에 따라 ‘모더레이션’ 업무가 플랫폼의 주요 업무로 부상하는 과정을 정리하고, 자율규제와 사적 검열의 논의를 개념화했다. 이 연구에서는 플랫폼에 의한 사적 검열을 첫째, 국가와의 관계 속에서 국가 검열의 대행자로서의 플랫폼, 국가가 플랫폼 책임을 입법화하는 시도로 정리하였다. 둘째, 각 국가와 사회의 요구에 대응해 플랫폼이 각종 모더레이션 장치와 방식을 강화하는 사례들을 유형화하여 분석하면서 이러한 조치들이 구체적으로 어떻게, 누구의 표현의 자유를 침해하는지 살펴보았다. 이는 사회적 소수자의 표현이 플랫폼 상에 등장할 가능성을 더 축소시키고 있었으며, 자동 차단 장치의 도입이나 제3세계 저임금 노동자들에 대한 외주화를 통해 언어적, 지역적, 역사적, 상황적 맥락을 고려하지 않는 모더레이션을 실행시키고 있었다. 또한 수익화 방식의 변경은 소수자 커뮤니티나 대중적이지 않은 주제의 출현을 차단하고, 혐오발언과 선정적 콘텐츠를 계속 출현시키는 결과로 나타나고 있었다. 이 연구는 이와 같은 분석을 통해서 디지털 플랫폼이 현대 사회의 사적 검열자로 부상하고 있다는 점을 드러냈으며, 플랫폼에 의한 검열을 국가와 개인 이용자와의 관계 속에서 맥락화하였다. 특히 표현의 자유가 단순히 특정한 표현을 행할 자유를 넘어 누구의 표현이 등장하고 배제되는지의 차원에서 확장될 필요성을 제기했다. 이 연구에서는 플랫폼 시대의 문제를 개선하기 위해 다양한 차원에서의 개입이 필요함을 주장했다.
Abstract
Content moderation is a major activity of digital platforms, performed to block or remove illegal or harmful content freely uploaded by users. Many countries ask digital platforms to employ active moderation to protect their citizens from illicit or harmful content such as hate speech, sexual material, fake news, terrorist propaganda, and child pornography. Some countries recommend self-regulation on platforms to avoid controversies related to censorship and enforce legal responsibilities within their judicial power. Also, the platforms themselves are major actors in the moderation of user content because of growing concerns surrounding the personal rights of users. In this paper, the researcher presents cases to categorize the moderation of user content by private companies as a form of private censorship. First, the researcher summarized discussions about critical features of these platforms. Digital platforms are the media of “peer-to-peer exchange” content that is responsible for the growing need for content moderation. Along with that, global platforms based in the US can be escaped from local jurisdictions. Second, private censorship is related to self-regulation because the subject falls under the “private” sector. This means that platforms function as private actors in censoring user content as delegated by the state. Legal enforcement for platforms to remove or block harmful content is related to the strengthening of moderation actions taken by the platforms themselves. This moderation is essential in the platform society as platforms play the role of censors exercising significant authority over user content. Especially, they may infringe minority groups’ rights of free expression or delete some ambiguous content because they are lack of time and sensibilities to consider local or social context. Therefore, this study aims to identify discreet moderation actions that are adopted by platforms and to categorize them under the concept of private censorship. In particular, the study will present how these moderators serve as alternative censors of the state, and how they infringe on an individual’s right to free speech, particularly its effect on minority groups that have to change their community guidelines or technological affordances.
참고문헌 (40)
- 권헌영, "인터넷상 표현의 자유보장에 관한 헌법구조적 한계와 과제", 언론과 법, 10(2), pp.83~110 (2011), (사)한국언론법학회
- 박경신, "인터넷임시조치제도의 위헌성 - “남이 싫어하는 말은 30일 후에 하라”", 중앙법학, 11(3), pp.7~51 (2009), 중앙법학회[DOI]
- 박해영, "혐오표현(Hate Speech)에 관한 헌법적 고찰", 공법학연구, 16(3), pp.137~169 (2015), 한국비교공법학회[DOI]
- 이민영, "인터넷 자율규제의 법적 의의", 저스티스, (116), pp.133~160 (2010), 한국법학원
- 헌법재판연구 제25권 - 정보통신기술의 발전과 기본권에관한 연구, "이인호", 헌법재판소, ~ (2014)
- 이주영, "혐오표현에 대한 국제인권법적 고찰 - 증오선동을 중심으로 -", 국제법학회논총, 60(3), pp.195~227 (2015), 대한국제법학회
- 장우영, "사이버공간의 규준화와 인터넷 규제의 동학", 한국지역정보화학회지, 8(2), pp.107~135 (2005)
- 조동원, "인터넷의 이중적 플랫폼: 공개⋅공유⋅참여의 광장이자 추적⋅감시⋅통제의 시장", 한국언론정보학보, 64(4), pp.5~30 (2013), 한국언론정보학회
- 홍남희, "SNS 검열의 제도화 과정에 대한 연구 ‘신 검열(new censorship)’ 논의를 통한 법적 검열 개념의 확장을 중심으로", 커뮤니케이션 이론, 12(4), pp.101~164 (2016), 한국언론학회
- 홍남희, "‘불온 통신’의 계보와 ‘트위터’: 박정근 사건에 대한 담론 분석을 중심으로", 한국언론정보학보, 81(1), pp.329~362 (2017), 한국언론정보학회[DOI]
- 황성기, "사적 검열에 관한 헌법학적 연구", 세계헌법연구, 17(3), pp.163~191 (2011), 세계헌법학회한국학회
- 황승흠, "인터넷 콘텐츠 규제에 있어서 법제도와 사업자 자율규제의 결합에 관한 연구", 공법학연구, 9(4), pp.261~288 (2008), 한국비교공법학회[DOI]
- Cohen. M., "Self-Regulation and Innovation in the Peer-to-Peer Sharing Economy", University of Chicago Law Review, 82(1), pp.116~133 (2015)
- Drucker, S. J., "Regulating Social Media: Legal and Ethical Considerations", pp.1~20 (2013), Peter Lang Publishing
- Esau, K., "Design Matters! An Empirical Analysis of Online Deliberation on Different News Platforms", Policy & Internet, 9(3), pp.321~342 (2017)
- Gillespie, T., "The Politics of ‘platforms’", New Media & Society, 12(3), pp.347~364 (2010)
- Gillespie, T., "Custodians of the Internet: Platforms, Content Moder ation, and the Hidden Decisions that Shape Social Media" (2018), Yale University Press
- "A Free Speech Theory of Copyright. 2009 Stanford Technology Law Review 2" (2008)[URL]
- "Germany: Flawed Social Media Law NetzDG is Wrong Response to Online Abuse" (2018)[URL]
- Jørgensen, R. F., "What Platforms Mean When They Talk About Human Rights", Policy & Internet Special Issue: The Platform Society, Part I, 9(3), pp.280~296 (2017)
- Kreimer, S. F., "Censorship by Proxy : The First Amendment, Internet Intermediaries, and the Problem of the Weakest Link", University of Pannsylvania Review, 155, pp.11~ (2006)
- Nash, V., "Public Policy in the Platform Society", Policy & Internet, 9(4), pp.368~373 (2017)
- "Addressing harmful online content" (2018)[URL]
- Postigo, H., "The socio-technical architecture of digital labor:Converting play into YouTube money", New Media & Society, 18(2), pp.332~349 (2016)
- MacKinnon, R., "Consent of the Networked : The Worldwide Struggle for Internet Freedom" (2012), Basic Books
- "Behind the Screen: THE HIDDEN DIGITAL LABOR OF COMMERCIAL CONTENT MODERATION" (2014)[URL]
- Rosenblat, A., "Discrimina ting Tastes : Uber's Customer Ratings as Vehicles for Workplace Disc rimination", Policy & Internet, 9(3), pp.256~279 (2017)
- Sherrick, "The effect of explicit online comment moderation on three spiral of silence outcomes", New Media &Society, 20(2), pp.453~474 (2016)
- van Dijck, J., "The Culture of Connectivity : A Critical History of Social Media" (2013), Oxford University Press
- Wagner, B., "Governing internet expression : the international and transnational politics of freedom of expression" (2013), European University Institute
- West, S. M., "Censored, suspended, shadowbanned : User interpretation of content moderation on social media platforms", New Media & So ciety, 20(11), pp.4366~4383 (2018)
- "포털, 언론 역할 인지하고 개선점 찾아야" (2017), 김윤희[URL]
- "페이스북의 여성 혐오 콘텐츠를 삭제하라는 청원이등장했다" (2015), 박수진[URL]
- "유튜브 ‘무슬림의 순진함’ 삭제 거부한 속내는?" (2012), 배재련[URL]
- "오늘 강남 페이스북 앞 ‘상의탈의’ 여성시위…“성차별 규탄”" (2018), 연합뉴스TV[URL]
- "YouTube to manually review popular videos before placing ads" (2018)[URL]
- "LGBT Community Anger over Youtube restrictions which make their videos invisible" (2017)[URL]
- "YouTube's small creators pay price of policy changes after Logan Paul scandal" (2018)[URL]
- "The hardest job in Silicon Valley is a living nightmare" (2018)[URL]
- "정보통신망 이용촉진 및 정보보호 등에 관한 법률 (전문개정 2008. 6. 13.)", ~ (2008)