본문 바로가기
KERD
논문KCI 등재

인공지능(AI)을 악용한 비군사적 안보 위협 대응방안에 관한 연구

A Study on the Response to Non-Military Security Threats Using Artificial Intelligence(AI)

정주섭|정강모
한국국가안보·국민안전학회 (Korean National Security and Public Safety Association)|2024.06|한국국가안보·국민안전학회지 (Korean National Security and Public Safety Association)|제18호|pp. 33-62

0

조회

0

다운로드

0

인용

0

참고문헌

키워드

국가안보Artificial Intelligence(AI)딥페이크National SecurityDeepfake사이버 공격Election Interference인공지능(AI)선거 개입Cyber Attack.

초록

인공지능(AI) 기술은 사회의 지속적인 발전과 신산업 분야 경쟁우위 확보를 위한 핵심 전략기술로 주목받고 있지만, 그 기반이 되는 학습 데이터의 유한성·부정확성 등으로 인해 국가안보(비군사적 분야) 측면에서 다양한 위협이 될 수 있다. 예를 들면, 딥페이크 기술이 적용된 정교한 가짜 영상이 평·전시를 막론하고 국가 혼란을 가져올 수 있으며, ChatGPT와 같은 생성형 AI가 정서적으로 취약한 사람에게 잘못된 정보를 지속적으로 주입시켜 그 가치 판단에 영향을 끼칠 수도 있다. 또한, AI 기술로 만들어진 가짜 뉴스가 민주주의의 꽃인 선거 조작에 활용되고, 기존 방식으로 탐지하기 어려운 악성코드 제작 등 사이버 공격에 악용되고 있다. 이러한 국가안보 침해 가능성을 방지하기 위해 EU는 AI의 위험성을 4등급으로 구분하는 세계 최초의 AI 규제법을 마련하였고, 미국은 안보에 위협이 될 수 있는 AI 시스템을 개발하는 경우에 연방정부 고지를 의무화하는 한편, 중국은 생성형 AI 서비스에 사회주의 핵심가치를 반영하도록 명시하였다. 이에, 우리나라도 ‘인공지능 기본법’ 제정 과정에서 AI로 인한 국가안보 침해 사례를 명시하고, 인증제 도입 등을 통해 자유민주주의 핵심 가치를 훼손하지 못하도록 규제하여야 한다. 또한, AI를 악용한 사이버 심리전에 맞대응하기 위한 민관 협력체계를 구축하고, 국가안보 유관기관이 딥페이크 진위 판별을 위한 시스템을 개발·공유할 필요가 있다.

Abstract

Artificial intelligence(AI) technology is attracting attention as a key strategic technology for continuous social development and securing competitiveness in new industries, but it can pose various threats in terms of national security (non-military fields) due to the finiteness and inaccuracy of learning data. For example, sophisticated fake videos with deepfake technology can lead to national confusion, regardless of peacetime and wartime, and Generative AI such as ChatGPT can continuously inject misinformation into emotionally vulnerable people and affect their value judgment. In addition, fake news made with AI technology is being used to manipulate elections, the flower of democracy, and is being exploited for cyber attacks such as producing malicious codes that are difficult to detect in the existing way. To prevent the possibility of such national security threat, the EU has established the world's first AI regulation law that divides the risk of AI into four grades, the United States has mandated federal government notices when companies develop AI systems that can pose a security threat, and China has specified that Generative AI services reflect the core values of socialism. Accordingly, Korea should specify cases of national security violations caused by AI in the process of enacting the "Basic Act on Artificial Intelligence" and regulate them not to damage the core values of liberal democracy by introducing a certification system. In addition, it is necessary to establish a public-private cooperation system to respond to cyber psychological warfare that abuses AI, and to develop and share a system for determining the authenticity of deepfake by national security agencies.

참고문헌 (53)

  1. 바이든 행정부의 첫 인공지능(AI) 행정명령과 시사점, "김경숙", 1~3, pp.이슈브리프, 제480호 (2023)
  2. 김준성, "AI 시대에서 사회적 범죄예방을 위한 형법의 적용방안", 법학연구, 22(1), pp.161~180 (2022)
  3. 美 NIST ｢AI 위험관리 프레임워크(AI RMF) 1.0｣ 분석 및 시사점, "김태순", 18~, pp.The AI Report, 2023-7호 (2023)
  4. 공공분야 생성형 AI 활용 방안, "김태원", 8~, pp.The AI Report, 2023-10호 (2023)
  5. 김혜경, "콘텐츠의 AI 활용사례 및 발전방안", 한국통신학회 학술대회논문집, pp.772~773 (2017)
  6. 미국의 AI 규제 동향 및 시사점, "유계환", 6~7, pp.IP Focus, 제2023-02호 (2023)
  7. 글로벌 AI 신뢰성 정책 동향 연구, "유재흥", 소프트웨어정책연구소, 29~30, pp.연구보고서, RE-150 (2023)
  8. 이신행, "편향적 인공지능: 알고리즘으로 재생산되는 편향의 원인과 유형, 그리고 개선방안을 중심으로", 디지털사회, (42) (2022)
  9. 21대 국회 인공지능 관련 법안 현황 및 쟁점, "이현균", 한국법학원, ~, pp.현안보고서, 제2023-04호 (2023)
  10. 최창욱, "국내외 언론이 바라본 딥페이크 기술", Journal of Digital Contents Society, 23(5), pp.893~904 (2022)
  11. 과학기술&ICT 정책·기술 동향 제231호, "한국과학기술기획평가원", ~ (2023)
  12. Policymaking in the Pause: What can policymakers do now to combat risks from advanced AI systems?, "Future of Life Institute", ~ (2023)
  13. From Pretraining Data to Language Models to Downstream Tasks : Tracking the Trails of Political Biases Leading to Unfair NLP Models, "Shangbin Feng", ~ (2023)
  14. AI-synthesized faces are indistinguishable from real faces and more trustworthy, "Sophie J", ~ (2022)
  16. 이경호, "AI의 안보·민주주의 위협 차단할 때", 문화일보, ~ (2023)
  17. 이광욱, "미국의 AI 규제 동향 및 시사점", 법률신문, ~ (2023)
  18. 이용호, "뻔뻔한 거짓말, 할루시네이션 Hallucination, 똑똑하면서 멍청한 챗gpt", 한국강사신문, ~ (2023)
  19. 이중희, "중국의 <생성형 인공지능 서비스 관리 잠정 방법>에 대한 분석: 배경과 쟁점", 대외경제정책연구원 중국전문가포럼 (2023), 전문가 오피니언
  20. 한창완, "인공지능 규제와 통상 분쟁·마찰 가능성", 법률신문, ~ (2023)
  21. "생성형 AI 덕에…할루시네이트, 英 캠브릿지 사전 ‘올해의 단어’에" (2023)[URL]
  22. "총선 파고 든 ‘딥페이크’… AI 가짜뉴스 기승" (2024)[URL]
  23. "생성형 AI도 정치적 편향 있다, 연구진 “챗GPT는 진보, 라마는 보수”" (2023)[URL]
  24. "한국형 챗GPT ‘클로바X’의 한계…거짓 정보 할루시네이션 못 피해" (2023)[URL]
  25. "딥페이크 영상 10분 이내 가려낸다…경찰, 탐지기술 개발" (2024)[URL]
  26. "인공지능법 제정 눈앞, 주요 내용은?" (2023)[URL]
  27. "세계 최초의 인공지능법, EU 27개국 간 정치적 합의 도출!...위반 시 최대 497억원 또는 전세계 매출의 7% 징벌적 벌금 부과" (2023)[URL]
  28. "AI로 “경선 포기·야당 지지” 가짜 영상… 선거 앞둔 전세계 비상" (2023)[URL]
  29. "미국 빅테크도 참전했다…러시아와 ‘사이버 전쟁’" (2022)[URL]
  30. "“페이크냐, 범죄냐”...AI 본격 개화 속 규제 공백에 ‘혼란’" (2024)[URL]
  31. "다보스포럼 “올해 최대 위협은 AI 선거개입”" (2024)[URL]
  32. "“다 걸렸어”...99% 딥페이크 탐지하는 AI 기술" (2022)[URL]
  33. "사이버 공격 돕는 유료 서비스, ‘사기GPT’ 등장" (2023)[URL]
  34. "바이든, 최초 AI 행정명령 발표...“첨단 AI 위험, 정부에 보고할 것”" (2023)[URL]
  35. "편향에 맞선다던 챗봇 ‘그록’, 편향적이라고 공격 받아" (2023)[URL]
  36. "Deepfake videos ‘double in nine months’" (2019)[URL]
  37. "Deepfake presidents used in Russia-Ukraine war" (2022)[URL]
  38. "Hallucinate is Cambridge Dictionary AI-inspired word of 2023" (2023)[URL]
  39. "MEPs approve world's first comprehensive AI law" (2024)[URL]
  40. "Vallas campaign condemns deepfake video posted to Twitter" (2023)[URL]
  41. "Election disruption from AI poses the biggest global risk in 2024, Davos survey warns" (2024)[URL]
  42. "World’s first major act to regulate AI passed by European lawmakers" (2024)[URL]
  43. "‘Verified’ Twitter accounts share fake image of ‘explosion’ near Pentagon, causing confusion" (2023)[URL]
  44. "Bill Gates says AI risks are real but nothing we can’t handle" (2023)[URL]
  45. "Managing The Effects Of AI-Driven Cyber Attacks" (2023)[URL]
  46. "DARPA AI Cyber Challenge Aims to Secure Nation’s Most Critical Software" (2023)[URL]
  47. "AI poses national security threat, warns terror watchdog" (2023)[URL]
  48. "FACT SHEET: Biden-Harris Administration Announces New Actions to Promote Responsible AI Innovation that Protects Americans’ Rights and Safety" (2023)[URL]
  49. "Fresh evidence of ChatGPTs political bias revealed by comprehensive new study" (2023)[URL]
  50. "How to spot the Trump and Pope AI fakes" (2023)[URL]
  51. "Elon Musk promised an anti-‘woke’ chatbot. It’s not going as planned" (2023)[URL]
  52. "互联网信息服务深度合成管理规定" (2022)[URL]
  53. "유럽연합 ｢인공지능법(Artificial Intelligence Act)｣", ~

관련 논문AI추천

인공지능(AI) 시대의 사이버 위협 대응 전략김찬미한국정치사회연구소 · 한국과 국제사회2025 · 제9권 제6호AI의 군사적 이용 -국가별 전략과 사이버안보 측면의 시사점-이수진, 한원준국제군사안보연구원 · 안보군사학연구2025 · 제22권 제1호생성형 인공지능 기술을 활용한 신종 사이버 범죄 예방과 사이버 시큐리티 법정책적 대응 전략김희정법학연구원 · 法學論文集2024 · 제48권 제2호국방 AI의 보안성 강화를 위한 보안정책 및 연구개발 전략 수립방향김대건, 김주성, 이종관, 이종덕, 황슬기한국정보보호학회 · 정보보호학회논문지2024 · 제34권 제6호생성형 인공지능 관련 범죄 위협 분류 및 대응 방안김민수, 박우빈, 박윤지, 유혜진, 정두원한국정보보호학회 · 정보보호학회논문지2024 · 제34권 제2호안전한 AI 서비스를 위한 국내 정책 및 가이드라인 개선방안 연구김역, 김지연, 석병진, 이창훈한국정보보호학회 · 정보보호학회논문지2023 · 제33권 제6호

이 간행물의 다른 논문 (4건)

최근 북한의 사이버 위협실태 분석과 대응에 관한 연구김대연, 류연승pp. 7-31법원보안관리직 공무원의 안전교육과 응급상황 대응역량 관계성 분석강경수pp. 63-78민원인 불량행동으로 인한 방호업무 공무원들의 감정노동에 대한 연구박준석, 이민규pp. 79-122언어네트워크 분석을 활용한 한국국가안보국민안전학회지 연구동향 분석이대권, 박정섭pp. 123-140
원문 보기