딥페이크 기술의 사회적 위험과 규제 방안 - 딥페이크 이용 범죄를 중심으로 -
Social Risks of Deepfakes and Their Regulatory Approaches: Focusing on Deepfake-related Crimes
0
조회
0
다운로드
4
인용
0
참고문헌
키워드
초록
딥페이크란 인공지능 기술에 의해 합성된 이미지, 비디오, 오디오 등의 미디어로서 실제 존재하지 않거나 발생하지 않은 사건 등을 묘사한 것을 뜻하며, 창의적인 콘텐츠 문화를 만들어 낼 수 있다는 긍정적인 측면과 함께, 여론조작을 통한 민주주의에 대한 위협, 범죄에의 활용 등 여러 사회적 위험성 또한 내포하고 있다. 이 글에서는 딥페이크 기술의 악의적 활용의 위험성에 기초하여 딥페이크 기술 이용에 대한 규제방안을 검토함으로써, 우리 사회에서 이 인공지능 기술을 안전하게 이용할 수 있는 방법을 모색해 본다. 이를 위하여 딥페이크 기술을 악용하는 행위의 위험에 대하여 살펴보고, 이에 관련된 국내외 입법동향 및 딥페이크 기술 일반에 관련된 전반적인 대응 방향성을 검토하였다. 딥페이크의 일반 규제를 위해서는 딥페이크에 대한 규제내용을 담은 기본법이 필요하며, 딥페이크의 특징인 허위성, 미디어의 파급력, 디지털 형식의 빠른 유포를 고려한 고려한 규제방식이 필요하다. 이를 위하여 딥페이크 생성물에 대한 표시강제제도 도입, 악의적 딥페이크의 유통 금지, 그 외 온라인 서비스 제공자의 의무로서 사전 모니터링 및 자율규제, 피해자 지원을 위한 신속 삭제 등이 요구된다. 이에 대한 입법 및 개발자와 온라인 플랫폼 업체의 적극적인 대응이 동시에 요구되고 있다.
Abstract
The term "deepfake" refers to synthetic media, such as images, videos, and audio, generated using artificial intelligence (AI) technology. This technology depicts events that either do not exist or have not occurred. While deepfakes have the potential to contribute to a new content culture, they also present various social risks, such as the manipulation of public opinion, leading to threats to democratic processes and potential misuse in criminal activities. This article provides an overview of the issues associated with deepfake abuse and discusses potential regulatory measures for safely integrating deepfake technology into society. To address these concerns, it suggests the need for a fundamental law to regulate deepfakes. The proposed regulations include introducing a mandatory labeling system for deepfake media, prohibiting and penalizing the malicious use of deepfakes, proactive monitoring and self-regulation as mandatory requirements for online service providers, and the prompt removal of deepfake content to support affected individuals. Both legislative actions and proactive measures by developers and online platform companies are essential to combat the social risks of deepfake technology.
참고문헌 (56)
- 김민호, "딥페이크의 합리적 규제방안", 토지공법연구, 106 (2024), 한국토지공법학회
- 김잔디, "보복형 성적촬영물 관련 범죄 처벌의 문제점과 개선방안", 원광법학, 35(4) (2019), 원광대학교 법학연구소
- 김재현, "딥페이크(deep fake)기술을 이용한 허위영상물 제작 및 반포죄에 대한 형사법적 고찰", 입법학연구, 18(1) (2021), 한국입법학회
- 김정화, "생성형 인공지능 기술의 규제 방향에 대한 입법론적 고찰", 형사법의 신동향, 통권 : 80 (2023), 대검찰청
- 김준성, "AI범죄에 대한 형사책임의 귀속문제", 중앙법학, 25(3) (2023), 중앙법학회
- 김지현, "2030세대 이용자들의 딥페이크(Deepfake) 기술 경험에 대한 사례연구 : 벤야민의 기술복제, 정치의 심미화 및 예술의 정치화 사유를 중심으로", 한국방송학보, 38(2) (2024), 한국방송학회
- 박우빈, "생성형 인공지능 관련 범죄 위협 분류 및 대응 방안", 정보보호학회논문지, 34(2) (2024), 한국정보보호학회
- 배상균, "4차산업혁명 법과 정책 제3권" (2021), 4차산업혁명융합법학회
- 배상균, "인공지능 (AI) 기술을 이용한 디지털 성범죄에 대한 검토 - 딥페이크(Deepfake) 포르노 규제를 중심으로-", 외법논집, 43(3) (2019), 한국외국어대학교 법학연구소
- 법제처, "딥페이크 관련 해외 입법동향", 법제소식 (2024)
- 법제처, "인공지능(AI) 관련 국내외 법제 동향", 법제소식 (2024)
- 신성원, "딥페이크 기술을 활용한 디지털 성범죄에 관한 연구", 한국치안행정논집, 20(4) (2023), 한국치안행정학회
- 양은영, "생성형 AI의 개발 및 이용에 관한 규제의 필요성 - 대규모 언어모델에 기반한 대화형 인공지능 서비스(LLMs AI)를 중심으로 -", 성균관법학, 35(2) (2023), 성균관대학교 법학연구원
- 연세대학교 연구처 연구윤리센터, "생성형 AI 활용 가이드라인", ~
- 딥페이크(Deep Fake)에 의한 민주적 정당성의 왜곡과 대응 방안, "오일석", 국가안보전략연구원, ~, pp.INSS 전략보고, No. 260 (2024)
- 이정훈, "정보통신기술의 발전에 따른 형법적 대응과정에 관한 개괄적 고찰", 법학논문집, 48(1) (2024), 중앙대학교 법학연구원
- 온라인 성폭력 범죄의 변화에 따른 처벌 및 규제 방안, "장다혜", 한국형사정책연구원, ~ (2018)
- 정연비, "플랫폼 차원 딥페이크 영상 탐지 및 차단 서비스 UX 프로토타입 연구 - 기술, 윤리, 법적 고찰 중심으로", 2024 한국정보기술학회 하계종합학술대회 논문집 (Proceedings of KIIT Conference 제주) (2024)
- 디지털성범죄 대응체계 개선 연구, "조준택", 한국형사·법무정책연구원, ~ (2024)
- 한국법제연구원, "유럽연합 인공지능법(번역본); EU Artificial Intelligence Act", ~ (2024)
- 유튜브, 딥페이크 콘텐츠 신고 강화, "한국저작권위원회", ~, pp.저작권 이슈브리프 2024년 7-1호
- 美, AI 행정명령(2023.10.30.)의 주요 내용 및 이행 현황, 디지털 법제 Brief, "한국지능정보사회진흥원", ~ (2023)
- 한국지역정보개발원, "AI 기술 발전에 따른 ‘딥페이크’의 두 얼굴", LOCAL INFORMATION MAGAZIN, 141 (2024), 한국지역정보개발원
- 허순철, "유튜브 딥페이크(deepfake) 영상과 허위사실공표", 미디어와 인격권, 8(1) (2022), 언론중재위원회
- Alanazi, S., "Examining the societal impact and legislative requirements of deepfake technology : a comprehensive study", Int. J. Social. Scienc. Humanit, 14(4), pp.58~ (2024)
- Delfino, "Pornographic Deepfakes: The Case for Federal Criminalization of Revenge Porn’s Next Tragic Act", Fordham L. Rev, 88, pp.887~ (2019)
- EPRS(European ParliamentaryResearch Service), "Tackling Deepfakes in European Policy", Parl. Eur. Doc. No. PE 690.039, ~ (2021)
- Kumkar, L., "Deepfakes", ZfDR, 202~ (2022)
- Shirish, A., "A Socio-legal enquiry on deepfakes", Cal. W. Int'l L.J, 54(2), pp.1~ (2024)
- Thiel, M., "„Deepfakes“ – Sehen heißt glauben? Gefahren, gesetzgeberischer Handlungsbedarf, Konsequenzen für die biometrische Gesichtserkennung", ZRP (2021)
- Vasist, P., "Deepfakes: An Integrative Review of the Literature and an Agenda for Future Research", CAIS, 51, pp.593~ (2022)
- Wittmer, S., "Computergenerierte Kinderpornografie zu Ermittlungszwecken im Darknet", MMR, 653~ (2019)
- 대한민국이 새로운 디지털 질서 정립의 마스터플랜을 공개합니다, , 2024
- "개선 – 다듬은 말 – 딥페이크"[URL]
- "“펜타곤 대형 폭발” AI가 만든 ‘조작 사진’에 美증시 요동" (2023)[URL]
- 딥페이크 악용 유명 연예인 합성 성적 허위영상물폭증, , 2024
- "‘딥페이크영상등’ 이용 선거운동 관련 법규운용기준" (2024)[URL]
- "“동료 맞네” 영상통화 뒤 340억 송금… 홍콩 ‘딥페이크’ 쇼크" (2024)[URL]
- "‘○○○ 능욕방’ 딥페이크, 겹지인 노렸다…지역별·대학별·미성년까지" (2024)[URL]
- "“챗GPT, 피싱메일 만들어줘”…AI 악용 사이버범죄 기승" (2024)[URL]
- "‘AI 법’ 최종 승인... “딥페이크가 합의 촉진”"[URL]
- ""경찰 수사 걱정 안 된다"며‥피해자 '조롱' 계속" (2024)[URL]
- ""참가자만 1,200명" 인하대에서 또 텔레그램 딥페이크 성범죄" (2024)[URL]
- "새로운 시작 by 거북이 (터틀맨, 금비, 지이)" (2020)[URL]
- "Deepfakes"[URL]
- "DEEP FAKES Accountability Act would impose unenforceable rules—but it's a start"[URL]
- "EU AI Act"[URL]
- "Europe fit for the Digital Age: new online rules for platforms"[URL]
- "H.R.5586 - DEEPFAKES Accountability Act"[URL]
- "H.R.5808 - Preventing Deep Fake Scams Act"[URL]
- "A Look at Global Deepfake Regulation Approaches" (2023)[URL]
- "AI-powered deepfake nude websites are targeted by San Francisco city attorney’s lawsuit" (2024)[URL]
- "What would your city look like after a disaster?"[URL]
- "S.4569 - TAKE IT DOWN Act"[URL]
- "Supervision of the designated very large online platforms and search engines under DSA"[URL]
- "Colleagues Unveil Bill to Protect Victims of Deepfake Revenge Porn" (2023)[URL]