본문 바로가기
KERD
논문KCI 등재

유튜브 딥페이크(deepfake) 영상과 허위사실공표

Deepfake Videos on YouTube and Publication of False Statement of Facts

허순철
언론중재위원회 (Press Arbitration Commission)|2022.04|미디어와 인격권 (Journal of Media and Defamation Law)|제8권 제1호|pp. 1-47|DOI 10.22837/pac.2022.8.1.1

0

조회

0

다운로드

14

인용

0

참고문헌

키워드

공직선거법선거유튜브YouTube딥페이크Public Official Election Actdeepfake허위사실공표publication of false statement of facts. election

초록

인공지능 기술이 발달함에 따라 진짜 같은 가짜 동영상을 만들 수 있게 되면서 예전에는 없었던 새로운 법적인 문제들이 생겨나고 있다. 2020년 말 엘리자베스 2세 영국 여왕이 크리스마스 인사를 하고 춤까지 추는 가짜 동영상이 공개된 적이 있었다. 딥페이크의 위험성을 경고하기 위해 2018년에는 오바마 전 미국 대통령이 “트럼프 대통령은 정말 쓸모없는 사람”이라고 말하는 가짜 동영상이 공개되기도 했다. 최근 우리나라에서도 선거가 얼마 남지 않은 시점에 어느 전직 대통령이 특정한 대선후보를 지지한다는 내용의 딥페이크 동영상이 여당의 공식 유튜브 채널에 게시되었다가 논란이 일자 삭제되는 일이 있었다. 그런데 선거를 앞두고 후보자에 관한 가짜 동영상이 유튜브(YouTube)에 게시되면 유권자가 후보자를 선택하는 데에 부정적 혹은 긍정적 영향을 미치게 되고 이는 결국 선거의 공정성을 전제로 하는 대의민주주의에 중대한 위협이 된다. 이에 미국의 캘리포니아주와 텍사스주는 공직선거의 후보자나 선거결과에 영향을 미칠 수 있는 딥페이크 동영상을 규제하는 법률을 제정하여 시행하고 있다. 가짜 동영상을 가리키는 “딥페이크(deepfake)”라는 단어는 “딥러닝(deep learning)”과 “가짜(fake)”의 합성어로서, “진짜처럼 보이기 위해 조작된 이미지, 오디오 또는 비디오”를 가리킨다. 그런데 캘리포니아주의 딥페이크금지법은 선거의 공정이라는 ‘긴절한 국가의 이익’을 달성하기 위하여 언론의 자유에 대해 최소한의 규제만을 하는 것이라고 하기 어렵고, 언론의 자유에 관한 연방대법원의 ‘현실적 악의’의 법리 때문에 동 법이 실제 사례에 적용되기 어렵다는 비판이 제기되고 있다. 따라서 이러한 비판적 견해에 의하면 딥페이크는 명예훼손법이나 저작권법 등을 통해 규율하는 것이 더 바람직하다고 한다. 한편 텍사스주의 딥페이크금지법은 ‘현실적 악의’의 법리를 규정하지 않고 있고, 패러디나 풍자를 동 법의 적용예외로 규정하고 있지 않으므로 연방 헌법에 위반된다는 주장이 제기되고 있다. 최근 우리나라의 중앙선거관리위원회는 ‘딥페이크 영상 관련 법규운용 기준’을 제정하여, 딥페이크 영상을 이용한 선거운동은 가능하지만 “딥페이크 영상(AI OOO)”임을 표시하지 않는 경우 「공직선거법」 제250조에 위반된다는 유권해석을 내놓았다. 그러나 딥페이크 영상임을 표시해야 하는 법적인 근거가 명확하지 아니할 뿐만 아니라, 이러한 유권해석은 언론의 자유에 대한 사전 제약으로서 위축효과를 가져올 것으로 보인다. 한편 딥페이크 선거운동을 금지하는 내용의 「공직선거법」 개정안이 국회에서 발의되었으나, 기존의 ‘허위사실공표죄’로도 딥페이크를 충분히 규제할 수 있으므로 새로운 처벌 규정을 신설할 필요는 없는 것으로 보인다.

Abstract

With the advent of Artificial Intelligence technology, fake videos that look completely real can be created, making new legal problems that have not existed before. At the end of 2020, a fake video of British Queen Elizabeth Ⅱ greeting and dancing for Christmas was released. Also, a deepfake video that former U.S. President Obama called President Trump “a total and complete dipshit” was disclosed to alarm the danger of deepfakes in 2018. Recently, even in South Korea, with the presidential election just around the corner, the ruling party posted on its official YouTube channel a deepfake video to the effect that a former Korean President declared support for a presidential candidate. The controversy over the video, however, made the party take down it from the channel. If a deepfake video about a candidate is posted on YouTube ahead of the election, which negatively or positively affects voters’ choice of candidates, it may pose a serious threat to democracy that is based on fair elections. Therefore, California and Texas in the United States have passed election laws regulating an act of distributing a deepfake video which may injure a candidate or influence the result of an election. The term “deepfake”, which refers to a fake video, is the compound word of “deep learning” and “fake,” and can be said to be “manipulated images, audio or video, designed to make the altered media seem authentic.” However, the California law regulating deepfakes immediately before an election is criticized on the ground that it is not a narrowly tailored restriction on freedom of speech to achieve the compelling government interest such as fair elections. It has also been criticized because it can be rarely applied to a case due to the actual malice rule of the U.S. Supreme Court. According to this criticism of the law, it is more desirable to regulate deepfakes with the defamation or copyright laws. Meanwhile, some critics argue that the Texas anti-deepfake law is unconstitutional not only because it does not prescribe for the actual malice rule, but also because it does not exempt its application to parody or satire. Recently, the National Election Commission in South Korea promulgated the “Standard for the Application of the Law on Deepfake Videos” and issued an authoritative interpretation that an act of posting a deepfake video on the Internet without indicating that it is “a deepfake video (AI OOO)” violates Article 250 of the Public Official Election Act. However, there is no expressive legal ground under the law to display that it is a deepfake video. In addition, this requirement may cause a chilling effect on freedom of speech because it is a prior restraint. In the meantime, it seems reasonable to conclude that no additional criminal punishment law needs to be passed because the current law punishing an act of publishing false statement of facts during an election can adequately regulate deepfake videos although a bill to criminalize deepfakes was introduced in the National Assembly.

참고문헌 (56)

  1. 문재완, "허위사실의 표현과 표현의 자유 ― 한국과 미국의 판례 비교를 중심으로 ―", 공법연구, 39(3), pp.113~142 (2011), 한국공법학회
  2. 최종선, "허위조작정보 규제 시도에 대한 비판적 고찰", 홍익법학, 21(1), pp.363~391 (2020), 법학연구소[DOI]
  3. "‘AI 윤석열’ 논란…美·유럽선 “유권자 판단 왜곡” 딥페이크 활용 금지" (2021)[URL]
  4. "文 사진 중앙에 “대한민국의 위상”…남아공 대통령잘라냈다" (2021)[URL]
  5. "극단적 유튜브 채널 방치 이유 있냐 질문에 구글의답은" (2022)[URL]
  6. "故노무현이 “정의로운 이재명 지지”… 與 영상에 친문도 발끈했다" (2022)[URL]
  7. "페이스북･유튜브 가짜뉴스 놔두면 법적 책임 묻는다" (2020)[URL]
  8. "딥페이크 범죄 기승, 타깃 안 되려면" (2021)[URL]
  9. ‘뉴 노멀’은 ‘새 기준, 새 일상’으로, ‘웨비나’는 ‘화상 토론회’로-국립국어원새말모임(4.20.~22.) 대체어 마련, , 문화체육관광부, ~ (2020)
  10. "지도자 우상화 위해 사진 조작하는 북한 닮아가나?" (2021)[URL]
  11. "‘프롭테크’→‘부동산 정보기술’…쉬운 우리말 대체어선정" (2020)[URL]
  12. "목소리도 행동도 똑같아…진짜 같은 가짜 ‘딥페이크’" (2018)[URL]
  13. "페이스북 이어 유튜브도 ‘선거관련 조작 동영상’ 삭제방침" (2020)[URL]
  14. "AI 기술로 만들어낸 춤추는 ‘가짜 영국 여왕’" (2020)[URL]
  15. "이해식 의원, 유권자 기만하는 ‘딥페이크 선거운동금지법’ 대표발의" (2021)[URL]
  16. "펠로시 조작 동영상, 새 가짜뉴스 대응할 준비부족 드러내" (2019)[URL]
  17. "비말 대신 침방울, 슬로푸드 대신 정성 음식 어때요" (2020)[URL]
  18. "엔비디아, 인공지능으로 ‘가짜 이미지 생성’ 기술 논문 발표" (2017)[URL]
  19. "포레스트 검프"[URL]
  20. "포레스트 검프 CG메이킹 영상"[URL]
  21. "딥페이크 영상 관련 법규운용기준" (2022), 중앙선거관리위원회[URL]
  22. "서면/인터넷 질의보기, 딥페이크 영상을이용한 선거운동에 관한 질의회답" (2022), 중앙선거관리위원회[URL]
  23. "Misinformation policies, 잘못된 선거 정보 관련 정책"[URL]
  24. Bodi, Matthew, "The First Amendment Implications of Regulating Political Deepfakes", Rutgers Computer & Technology Law Journal, 47, pp.143~172 (2021)
  25. Brown, Nina I., "Deepfakes and the Weaponization of Disinformation", Virginia Journal of Law & Technology, 23, pp.1~59 (2020)
  26. Chemerinsky, Erwin., "False Speech and the First Amendment", Oklahoma Law Review, 71, pp.1~15 (2018)
  27. Chesney, Bobby, "Deep Fakes : A Looming Challenge for Privacy, Democracy, and National Security", California Law Review, 107, pp.1753~1819 (2019)
  28. Delfino, Rebecca A., "Pornographic Deepfakes : The Case for Federal Criminalization of Revenge Porn’s Next Tragic Act", Fordham Law Review, 88, pp.887~938 (2019)
  29. Rowbottom, Jacob, "Lies, Manipulaton and Elections-Controlling False Campaign Statements", Oxford Journal of Legal Studies, 32, pp.507~535 (2012)
  30. Sunstein, Cass, "Falsehoods and the First Amendment", Harvard Journal of Law & Technology, 33, pp.387~426 (2020)
  31. Tashman, Alexandra, ""Malicious Deepfakes"-How California’s A. B. 730 Tries(and Fails)to Address the Internet’s Burgeoning Political Crisis", Loyola of Los Angeles Law Review, 54, pp.1391~1422 (2021)
  32. "The State of Deepfakes: Landscape, Threats, and Impact, Deeptrace" (2019)[URL]
  33. "Deepfakes Are Getting Easier to Make and the Internet’s Just Not Ready" (2020)[URL]
  34. "Deepfakes: More Frightening Than Photoshop on Steroids" (2019)[URL]
  35. "Deepfakes: 2020 and Beyond" (2020)[URL]
  36. "The Photo Book that Captured How the Soviet Regime Made the Truth Disappear" (2018)[URL]
  37. "Explained: Neural networks" (2017)[URL]
  38. "A new deepfake detection tool should keep world leaders safe-for now" (2019)[URL]
  39. "The US Military is Funding an Effort to C atch Deepfakes and Other AI Trickery" (2018)[URL]
  40. "California has banned political deepfakes during election season" (2019)[URL]
  41. "Deepfake video app Reface is just getting started on shapeshifting selfie culture" (2020)[URL]
  42. "What is deep Learning AI?, A Simple Guide with 8 Practical Examples" (2018)[URL]
  43. "Internet Companies Prepare to Fight the ‘Deepfake’ Future" (2019)[URL]
  44. "Some Deepfaker on YouTube Spent Seven Days Fixing the Shitty De-Aging in the Irishman" (2020)[URL]
  45. "Texas is first state to ban political ‘deepfake’ videos" (2019)[URL]
  46. "A Beginner’s Guide to Generative Adversarial Networks (GANs)"[URL]
  47. "Father of GANs Ian Goodfellow Splits Google For Apple" (2019)[URL]
  48. "How and why deepfake videos work-and what is at risk" (2021)[URL]
  49. "Courts and lawyers struggle with growing prevalence of deepfakes" (2020)[URL]
  50. "Deepfake app takes Trump videos of fline until after the election" (2020)[URL]
  51. "Why we need a better definition of ‘deep fake’" (2018)[URL]
  52. "Adobe, Photoshop, Britannica"[URL]
  53. "Filehorse, FakeApp" (2021)[URL]
  54. "Section 512 of Title 17: Resources on Online Service Provider Safe Harbors and Notice-and-Takedown System"[URL]
  55. "Deepfakes Guide: FakeApp 2.2 Tutorial Installation (totally simplified, model folder included)"[URL]
  56. "Webwise.ie, Explained: What is YouTube?"[URL]

관련 논문AI추천

딥페이크 기술의 사회적 위험과 규제 방안 - 딥페이크 이용 범죄를 중심으로 -주현경법학연구소 · 가천법학2024 · 제17권 제3호딥 페이크와 선거 시큐리티: 국가와 글로벌 플랫폼 기업 간 갈등을 중심으로고선규, 이재훈분쟁해결연구센터 · 분쟁해결연구2020 · 제18권 제1호딥페이크와 법: 스위스 법률을 중심으로송정민법학연구소 · 일감법학2024 · 제59호민주적 선거에 영향을 미치는 허위조작정보의 법적 과제 -최근 독일 논의 동향과 시사점을 중심으로-조인성법학연구소 · 일감법학2025 · 제61호딥페이크와 사생활 보호고세일한국재산법학회 · 재산법연구2025 · 제42권 제1호인공지능 시대에 있어서 딥페이크 범죄의 합리적인 대응을 위한 헌법적 논의이준복범죄수사연구원 · 범죄수사학연구2025 · 제11권 제1호

이 간행물의 다른 논문 (2건)

사적 미디어로서의 유튜브 플랫폼에 의한 콘텐츠 삭제에 관한 논의노현숙pp. 49-91표현의 자유와 유튜브의 법적 책임에 관한 비교법적 고찰이현정pp. 93-136
원문 보기