본문 바로가기
KERD
논문KCI 등재

미디어 플랫폼 속 성적 인격권 침해 - 허위영상물 편집･반포를 중심으로 -

Violation of Sexual Integrity on Media Platforms - Deepfake Image-Based Sexual Abuse -

한민경
언론중재위원회 (Press Arbitration Commission)|2024.12|미디어와 인격권 (Journal of Media and Defamation Law)|제10권 제3호|pp. 53-86

2

조회

0

다운로드

0

인용

0

참고문헌

키워드

성적 인격권 침해성폭력처벌법Telegram판결문 분석Sexual Violence Punishment Act텔레그램Court Decision Analysis허위영상물 편집･반포기술 촉진 이미지 기반 성학대딥페이크 영상Fabricated Image Editing and DistributionTechnology-Facilitated Image-Based Sexual AbuseDeepfake VideosViolation of Sexual Integrity

초록

허위영상물은 이미지 기반 성학대에서와 마찬가지로 피해자가 동의하지 않은 성적 대상화(non-consensual sexual objectification)를 그 특성으로 한다. 기술 촉진에 힘입어 빠르게 변화하는 이미지 기반 성학대 양상에 발맞추지 못하는 법률과 미디어 플랫폼 규제 지연 상황 또한 행위자 처벌 및 피해자 보호의 측면에서 주목할 필요가 있다. 이러한 맥락에서 본 연구는 허위영상물 편집･반포 관련 성폭력처벌법 개정을 서두르는 과정에서 생략된 기존 허위영상물 편집･반포 발생 및 처리 현황에 대한 실증적인 분석을 목적하였다. 본 연구의 연구 방법 및 연구 내용은 크게 1) 국회에 발의되었던 성폭력처벌법 일부개정법률안을 종합, 비교하는 허위영상물 편집･반포 관련 법제 검토와 2) 2020년 3월 24일 성폭력처벌법 제14조의2가 신설된 이래 지난 4년여간 동조 적용이 검토된 제1심 판결문 124건, 피고인 129명을 대상으로 한 미디어 플랫폼 속 성적 인격권 침해 실태 분석의 두 영역으로 구분된다. 허위영상물과 같은 완곡한 용어를 사용하는 것이 딥페이크와 같은 대중적 용어를 사용하는 것에 비해 직관적으로 이해되기는 어렵지만, 미디어 플랫폼에서 발생하는 성적 인격권 침해를 포괄하여 처벌하기에는 상대적으로 유리하다고 평가할 수 있다. 성폭력처벌법 제14조의2가 적용된 제1심 판결문을 검토한 결과, 고도의 첨단기술을 활용하여 교묘한 허위영상물을 제작할 것이라는 대중의 인식과는 달리 딥페이크 기술을 이용한 경우보다는 피해자의 사진에 정액 등 체액을 묻히거나 편집이 조잡하여 허위로 합성한 사진인지 쉽게 알 수 있는 합성물이 다수를 차지하였다. 미디어 플랫폼 속 성적 인격권 침해는 한 사람이 허위영상물 제작부터 반포를 모두 행하는 것이 아니라 미디어 플랫폼을 통해 연락을 취한 일면식이 없는 복수의 가해자가 허위영상물 편집･반포 행위를 분담하는 형태로 발생하고 있다. 이러한 가운데, 허위영상물 편집･반포 행위자들은 허위영상물 편집을 의뢰하기 위한 목적의 미디어 플랫폼과 제작한 허위영상물을 게시하기 위한 목적의 미디어 플랫폼을 이원화하여 이용하는 경향을 보인다. 이상의 분석 결과를 바탕으로 본 연구는 최근 개정된 허위영상물 편집･반포 규정을 평가하고 향후 성적 인격권 보호를 강화하기 위한 법 제도적 개선 방안을 제언하였다.

Abstract

Like other forms of image-based sexual abuse, the editing and distribution of fabricated images involves non-consensual sexual objectification of the victim. The delay in adapting legal and media platform regulations to the rapidly evolving nature of such abuse highlights issues in both offender punishment and victim protection, particularly in cases of fabricated image distribution, including deepfakes. In this context, this study empirically analyzes the occurrence and handling of fabricated image distribution cases, which was overlooked in the rushed process of revising the Sexual Violence Punishment Act. The research methods and content are divided into two main parts: 1) a comprehensive review and comparison of legislative proposals for amendments to the Act related to fabricated image distribution via media platforms, and 2) an analysis of 124 court decisions involving 129 defendants to examine the violation of sexual dignity rights on media platforms over the past four years since the enactment of Article 14-2 of the Act on March 24, 2020. Although the term “fabricated images and videos” may be less intuitively understood compared to popular terms like “deepfake,” it is advantageous for comprehensively penalizing violations of sexual dignity rights on media platforms. Analysis of first-instance rulings where Article 14-2 was applied revealed that, contrary to public perceptions of using advanced AI technology, the majority of cases involved crude fabrications, such as adding bodily fluids like semen onto victim photos, which were easily identifiable as fake, rather than involving sophisticated deepfake technology. Additionally, violations of sexual dignity rights on media platforms do not typically involve a single person producing and distributing fabricated images and videos; rather, multiple offenders, who are often strangers connected through such platforms, share the tasks of editing and distributing fabricated images and videos. These offenders often separate the platforms used for commissioning fabrications from those used to post such images. Accordingly, the recent amendments to fabricated image distribution regulations are evaluated and improvements to the legal framework for enhancing the protection of sexual dignity rights are suggested.

참고문헌 (29)

  1. 김명훈, "이슈관심주기를 적용한 디지털 성범죄 정책변동 분석 : 딥페이크 포르노 방지법을 사례로", 치안정책연구, 34(3), pp.7~40 (2020)
  2. 김재현, "딥페이크(deep fake)기술을 이용한 허위영상물 제작 및 반포죄에 대한 형사법적 고찰", 입법학연구, 18(1), pp.243~276 (2021)
  3. 김희정, "딥페이크 기술을 이용한 신종범죄에 대한 법정책적 시사점– 외국의 법정책 대응을 중심으로-", 서강법률논총, 13(3), pp.97~128 (2024)
  4. 노하림, "Visual Saliency 기반의 딥페이크 이미지 탐지 기법", Journal of Platform Technology, 12(1), pp.128~140 (2024)
  5. 문경환, "Meta Pseudo Labels 기반 딥페이크영상 검출", 멀티미디어학회논문지, 27(1), pp.9~21 (2024)
  6. 배상균, "인공지능(AI)기술을 이용한 디지털 성범죄에 대한 검토-딥페이크(Deepfake)포르노 규제를 중심으로-", 외법논집, 43(3), pp.169~187 (2019)
  7. 소은영, "헌법상 성적 자기결정권의 의미에 관한 재검토", 이화젠더법학, 11(3), pp.41~65 (2019)
  8. 신성원, "딥페이크 기술을 활용한 디지털 성범죄에 관한 연구", 한국치안행정논집, 20(4), pp.147~168 (2023)
  9. "엔번방 때도 있던 딥페이크, 국가 방관과 텔레그램이키웠다" (2024)[URL]
  10. "한국, 딥페이크 음란물 취약국 1위…최대 피해자는한국 가수" (2024)[URL]
  11. 장우정, "딥페이크 합성물에 대한 국내외 입법동향과 형사법적 수용문제-딥페이크 포르노(Deepfake Pornography)를 중심으로-", 소년보호연구, 33(2), pp.273~306 (2020)
  12. 전성우, "GAN과 DCGAN을 활용한 딥페이크영상 기반 위조 영상 판별 연구", 한국콘텐츠학회 논문지, 24(7), pp.126~134 (2024)
  13. 정해민, "멀티스케일 특성을 활용한 비전 트랜스포머 기반 딥페이크 탐지에 관한 연구", 지능정보연구, 30(2), pp.275~285 (2024)
  14. 주현경, "딥페이크 기술의 사회적 위험과 규제 방안-딥페이크 이용 범죄를 중심으로-", 가천법학, 17(3), pp.261~306 (2024)
  15. 최창욱, "국내외 언론이 바라본 딥페이크 기술", 디지털콘텐츠학회논문지, 23(5), pp.893~904 (2022)
  16. 허순철, "유튜브 딥페이크(deepfake)영상과 허위사실공표", 미디어와인격권, 8(1), pp.1~47 (2022)
  17. Bartky, S. L., "Femininity and domination: Studies in the phenomenology of oppression" (1990), Routledge
  18. Caldwell, M., "AI-enabled future crime", Crime Science, 9(1), pp.1~13 (2020)
  19. Citron, D. K., "Deep fakes : A looming challenge for privacy, democracy, and national security", California Law Review, 107(6), pp.1753~1819 (2019)
  20. Citron, D. K., "Criminalizing revenge porn", Wake Forest Law Review, 49, pp.345~391 (2014)
  21. Flynn, A., "Deepfakes and digitally altered imagery abuse : A cross-country exploration of an emerging form of image-based sexual abuse", The British Journal of Criminology, 62(6), pp.1341~1358 (2022)
  22. Franks, M. A., "Redefining"revenge porn"reform : A view from the front lines", Florida Law Review, 69(5), pp.1241~1337 (2017)
  23. Henry, N., "Embodied harms : Gender, shame, and technology-facilitated sexual violence", Violence Against Women, 21(6), pp.758~779 (2015)
  24. Henry, N., "Image-based sexual abuse : Victims and perpetrators", Trends and Issues in Crime and Criminal Justice, (572), pp.1~19 (2019)
  25. LaCroix, J. M., "Instrumentality and the denial of personhood : The social psychology of objectifying others", Revue internationale de psychologie sociale, 28(1), pp.183~211 (2015)
  26. Lucas, K. T., "Deepfakes and domestic violence : Perpetrating intimate partner abuse using video technology", Victims & Offenders, 17(5), pp.647~659 (2022)
  27. McGlynn, C., "Image-based sexual abuse", Oxford Journal of Legal Studies, 37(3), pp.534~561 (2017)
  28. "Shattering Lives and Myths: A Report on Image-Based Sexual Abuse (The UK report from an Australian Research Council funded project (DP170101433) Revenge Pornography: The Prevalence and Nature of Non-Consensual Imagery and the Implications for Law Reform)" (2019)[URL]
  29. Powell, A., "Rape", pp.143~158 (2022), Routledge

관련 논문AI추천

딥페이크 범죄의 형사법적 규율 구조와 플랫폼 사업자 책임이창규대검찰청 · 형사법의 신동향2025 · 제89호[기획 논문] 판결문 내용 분석을 통해 본 ‘딥페이크 성범죄’ 실태조혜민한국여성정책연구원 · 여성연구2025 · 제124권 제1호기술매개 성폭력의 처벌과 가해자 책임 강화 방안 모색김정혜젠더법학연구소 · 이화젠더법학2024 · 제16권 제1호인공지능(AI) 기술을 이용한 디지털 성범죄에 대한 검토 - 딥페이크(Deepfake) 포르노 규제를 중심으로 -배상균법학연구소 · 외법논집2019 · 제43권 제3호기술 매개 젠더 기반 폭력의 관점에서 본 딥페이크 성범죄 대응 정책김수아젠더법학연구소 · 이화젠더법학2024 · 제16권 제3호딥페이크 기술을 활용한 디지털 성범죄에 관한 연구신성원한국치안행정학회 · 한국치안행정논집2023 · 제20권 제4호

이 간행물의 다른 논문 (3건)

미국의 청소년 소셜미디어 이용규제와 헌법적 논쟁진호성pp. 1-52전기통신사업법상 통신 이용자 정보 제공 요청 규정의 쟁점 및 개선 연구이희훈pp. 87-122불법콘텐츠 확산 방지를 위한 매개자 규제의 정당성과 유럽 법제 검토정애령pp. 123-162
원문 보기