딥 페이크와 선거 시큐리티: 국가와 글로벌 플랫폼 기업 간 갈등을 중심으로
Deep Fake and Election Security: Conflict between Nations vs Global IT Companies
0
조회
0
다운로드
3
인용
0
참고문헌
키워드
초록
2020년 4월, 한국에서 국회의원선거가 마무리된 이후에도 여전히 최대 화두는 가짜뉴스이다. 이미 2016년 미국 대통령 선거에서 가짜뉴스는 세계적으로 주목을 받았다. 최근에는 IT와 인공지능(AI)기술이 급속도로 발전하고 이러한 기술이 선거과정에도 영향을 미치게 되면서 선거 시큐리티(election security)가 중요한 정치적 이슈로 등장하였다. 선거 시큐리티는 지금까지는 물리적인 사이버 공격에 대한 보안으로 이해되어 왔으나 최근에는 유권자의 투표행태에 영향을 미치는 요인들로부터 예방이라는 적극적인 의미로 사용되고 있다. 선거 시큐리티와 관련하여 최근 크게 주목받고 있는 것이 딥 페이크(deep fake)이다. 딥 페이크라는 영상 조작으로 유권자들의 공정한 투표선택을 방해하고 있다. 이러한 현상은 정치참여와 민주주의를 왜곡시키는 결과를 낳고 있다. 이러한 위협에도 불구하고 현재 각국 정부들은 딥 페이크로 인한 선거 과정의 위협에 적극적으로 대응하지 못하고 있다. 사례분석결과를 살펴보면, 미국의 경우, 2018년 이용자의 개인정보 유출 문제가 불거지면서 미국의회는 프라이버시침해에 대한 근본적인 대안을 요구하고 있다. 그러나 연방정부차원에서 추진되는 정책보다는 페이스북, 구글, 마이크로소프트 등 플랫폼 기업에 위임하는 형태이다. 이에 반하여 EU국가는 가짜뉴스나 SNS상에서 대규모로 유포되는 허위정보에 대한 규제는 직접적인 법, 제도적인 측면을 강조하고 있다는 점에서 차별적이다. 영국에서는 정당과 후보자가 사이버 공격을 받았을 경우, 국가기관이 무료로 즉각적인 기술 조언 및 지원이 이루어진다. 프랑스는 정치적 중립과 정당의 자율적인 정치활동을 보장하는 차원에서 정당이 요청하는 경우, 대통령선거운동관리위원회가 각 정당, 후보자를 지원하고 있다.
Abstract
In April 2020, the biggest topic related to the campaign ahead of the South Korean parliamentary elections is fake news. Fake news has already drawn global attention in the 2016 U.S. presidential election. Election security has emerged as an important political issue as IT and artificial intelligence technologies have developed and these technologies have affected the election process. Election security can basically be understood as a physical cyber attack, but in recent years, there have been a growing number of factors affecting voter voting behavior. Among them, Deep Fake (fake video) is the one that has recently drawn keen attention. Deep Fakera is causing voters to distort their judgment grounds and thoughts for right and fair choices through video manipulation. Despite these threats, governments are currently not actively responding to threats from the election process caused by deep fakes, passing technical solutions on to companies. Global IT companies, on the other hand, have failed to solve practical problems and are showing passive responses, citing technical constraints and massive resource injection. In a situation where conflicts between the government and businesses over the deep-fake issue of the election phase remain unresolved, voters' choices could still be distorted and fair elections could be undermined. After all, it is necessary to actively respond to the deep-fake issue as well as institutional security to solve the problem, and to ensure that the government and businesses can take an active role in raising the interest of civil society. Amid these conflicts, South Korea needs to legislate deep-fake regulations and strengthen the role of the NEC to enhance election security.
참고문헌 (46)
- 장우영, "정보", 미디어 선택과 편향 동원 : 태극기집회를 사례로, 2018, pp.52(5), 87~113[DOI]
- Allcott, Hunt, "Trends in the diffusion of misinformation on social media", Research and Politics, 2019, pp.1~8 (2019)
- "소셜미디어: 페이스북이 미얀마에 불러온 참극" (2018)[URL]
- "EU Commission warns of ‘fake news,’ meddling in 2019 European elections" (2018)[URL]
- "Facebook, Microsoft launch contest to detect deepfake videos" (2019)[URL]
- Diana Owen, "Fake Newsに震撼される民主主義" (2019), 大学教育出版
- "General Data Protection Regulation: GDPR" (2018)[URL]
- "European Union Agency for Cybersecurity (ENISA)" (2019)[URL]
- "Report on the implementation of the Action Plan Against Disinformation" (2019)[URL]
- "The EU Cybersecurity Act" (2019)[URL]
- "Facebook, Google And More Meet With Feds To Confer About 2020 Election Security" (2019)[URL]
- "Facts About Content Review on Facebook" (2018)[URL]
- "Creating a data set and a challenge for deepfakes" (2019)[URL]
- "2020’s Homegrown Fake News Crisis" (2019)[URL]
- "Against information manipulation" (2018)[URL]
- "Congress and the Public" (2019)[URL]
- "Disinformation Is Becoming Unstoppable"[URL]
- "AI at Google: our principles" (2018)[URL]
- "Contributing Data to Deepfake Detection Research" (2019)[URL]
- "Zuckerberg Plans to Integrate WhatsApp, Instagram and Facebook Messenger" (2019)[URL]
- "Facebook has banned deepfakes. Sort of" (2019)[URL]
- "Americans: Much Misinformation, Bias, Inaccuracy in News"[URL]
- "Inside the Russian Troll Factory: Zombies and a Breakneck Pace"[URL]
- "Polarization, Partisanship and Junk News Consumption on Social Media During the 2018 US Midterm Elections" (2018)[URL]
- "How Misinformation Spreads on Social Media—And What To Do About It" (2018)[URL]
- "Elections under threat: securing democracy in cyberspace" (2019)[URL]
- "Guidance for political parties and their staff" (2017)[URL]
- "Election guidance for local authorities" (2019)[URL]
- Owen, Diana, "The new media’s role in politics", MIT Technology Review (2019)
- Bond, Robert M., "A 61-millionperson experiment in social influence and political mobilization", NATURE, 489, pp.295~298 (2012)
- "Facebook Removed Nearly 3.4 Billion Fake Accounts In 6 Months"[URL]
- "Biased News Media or Biased Readers? An Experiment on Trust"[URL]
- "Deepfake videos of U.K. leaders set chilling precedent for 2020 U.S. election" (2019)[URL]
- "This Analysis Shows How Viral Fake Election News Stories Outperformed Real News On Facebook" (2016)[URL]
- "Commission urges platforms to take action on fake accounts before EU elections" (2019)[URL]
- "Suspicious’ cyber attacks hit UK Labour’s election campaign" (2019)[URL]
- "S.3805 ‒ Malicious Deep Fake Prohibition Act of 2018" (2018)[URL]
- "S.2065 - Deepfake Report Act of 2019" (2019)[URL]
- "Deepfake detection algorithms will never be enough" (2019)[URL]
- "$250 Million to Keep Votes Safe? Experts Say Billions Are Needed" (2019)[URL]
- Zittrain, Jonathan, "Engineering an Election: Digital Gerrymandering Poses a threat to democracy", Harvard Law Review Forum (2014)
- 川上和久, "ネット選挙運動と政治参加の変化可能性", アカデミア, 111 (2018)
- 高選圭, "Fake Newsに震撼される民主主義" (2019), 大学教育出版
- 湯浅懸道, "Digital Gerrymanderingの法規制可能性", 情報処理, 58(12) (2017)
- 湯浅懸道, "選挙とcyber security", 選擧 (2018)
- 湯浅懸道, "2019年欧州議会議員選挙とインターネット·SNS", 選擧 (2019)