본문 바로가기
KERD
논문KCI 등재

AI 기반 국방정보시스템 개발 생명주기 단계별 보안 활동 수행 방안

A Methodology for SDLC of AI-based Defense Information System

이영란|박규도
한국정보보호학회 (Korea Institute Of Information Security And Cryptology)|2023.06|정보보호학회논문지 (Journal of The Korea Institute of Information Security and Cryptology)|제33권 제3호|pp. 577-589|DOI https://doi.org/10.13089/JKIISC.2023.33.3.577

0

조회

0

다운로드

4

인용

0

참고문헌

키워드

Artificial IntelligenceSDLCDefense Information SystemDefense AcquisitionAI Security
주제분류컴퓨터학

초록

국방부는 국방혁신 4.0 계획에 기반한 첨단과학기술군 육성을 위해 AI를 향후 전력 증강의 핵심 기술로 활용할 계획이다. 그러나 AI의 특성에 따른 보안 위협은 AI 기반의 국방정보시스템에 실질적인 위협이 될 수 있다. 이를 해소하기 위해서는 최초 개발 단계에서부터 체계적인 보안 활동의 수행을 통한 보안 내재화가 필요하다. 이에 본 논문에서는 AI 기반 국방정보시스템 개발 시 단계별로 수행해야 하는 보안 활동 수행 방안을 제안한다. 이를 통해 향후 국방 분야에 AI 기술 적용에 따른 보안 위협을 예방하고 국방정보시스템의 안전성과 신뢰성을 확보하는 데 기여할 수 있을 것으로 기대한다.

Abstract

Ministry of National Defense plans to harness AI as a key technology to bolster overall defense capability for cultivation of an advanced strong military based on science and technology based on Defense Innovation 4.0 Plan. However, security threats due to the characteristics of AI can be a real threat to AI-based defense information system. In order to solve them, systematic security activities must be carried out from the development stage. This paper proposes security activities and considerations that must be carried out at each stage of AI-based defense information system. Through this, It is expected to contribute to preventing security threats caused by the application of AI technology to the defense field and securing the safety and reliability of defense information system.

참고문헌 (40)

  1. "Notes from the AI frontier : Modeling the impact of AI on the world economy"[URL]
  2. Ministry of National Defense, "The Basic Plan of Defense Innovation 4.0" (2023), Mar
  3. OECD, "The OECD Artificial Intelligence(AI)Principles" (2019)
  4. Europian Commision High-Level Expert Group on Artificial Intelligence, "Ethical Guidelines for Trustworthy AI" (2019)
  5. Ministry of Science and Technology, "Strategy to Realize Artificial Intelligence Trustworthy for Everyone" (2019)
  6. U.S. Department of Defense, "DOD Adopts Ethical Principles for Artificial Intelligence" (2020)
  7. Sohee Park, "Artificial Intelligence Security Issue", Journal of the Korea Institute of Information Security & Cryptology, 27(3), pp.27~32 (2017)
  8. 이수연, "함수 호출의 안전성 향상을 돕는 스마트 계약 코드 재작성기", 정보보호학회논문지, 29(1), pp.67~75 (2019), 한국정보보호학회[DOI]
  9. Gwonsang Ryu, "Reseach Trend in Artificial Intelligence Security Attack and Defense", Journal of the Korea Institute of Information Security & Cryptology, 30(5), pp.93~99 (2020)
  10. Samuli Laato, "AI Governance in the System Development Life Cycle : Insights on Responsible Machine Learning Engineering", IEEE, 2022, 113~123
  11. Erick Galinkin, "Towards a Responsible AI Development Lifecycle : Lessons from Information Security" (2022)
  12. Yoon Junghyun, "Issues and Prospects of AI Utilization in the Defense Field", STEPI Insight, pp.1~55 (2021)
  13. 최근하, "美 국방부 및 육군의 인공지능(AI) 전략이 한국군에 주는 시사점", 한국방위산업학회지, 27(1), pp.41~52 (2020), 한국방위산업학회[DOI]
  14. Ministry of National Defense, "Instruction on Defense Informationization" (2022)
  15. Ministry of Science and Technology, "Framework Act on Intelligent Informatization" (2020)
  16. Kwang-Chun Go, "Improvement of the Acquisition Procedure for Defense Information System", KIDA Defense Issues & Analyses, 1916(22-37) (2022)
  17. 조성림, "국방조직의 정보보호 평가 방법론 개발", 한국IT서비스학회지, 12(4), pp.77~90 (2013), 한국IT서비스학회[DOI]
  18. ISO, "ISO", IEC 23053: Framework for Artificial Intelligence(AI) Systems Using Machine Learning(ML), 2022
  19. NIST, "AI Risk Management Framework", ~ (2023)
  20. ISO, "ISO", IEC TR 24028 : Overview of Trustworthiness in Artificial Intelligence, 2020
  21. "The Kurzweil Accelerating Intelligence" (2012)
  22. Y. Yao, "Latent Backdoor Attacks on Deep Neural Networks", Proceedings of the 2019 ACM SIGSAC Conference on Computer and Communications Security, pp.2041~2055 (2019)
  23. D. Song, "AI and Security : Lessons, Challenges, and Future Directions", IEEE Symposium on Security and Privacy, 1st Deep Learning and Security Workshop (2018)
  24. Hyun Kwon, "Trend in Technology of Adversarial Examples in Deep Learning Model", Journal of the Korea Institute of Information Security & Cryptology, 31(2), pp.5~12 (2021)
  25. Hyun Kwon, "Research Trend in Evasion Attacks of AI Security Problems", Communications of the Korean Institute of Information Scientists and Engineers, 36(2), pp.32~36 (2018)
  26. "Compromised PyTorch-nightly dependency chain between December 25th and December 30th, 2022"[URL]
  27. "PyTorch discloses malicious dependency chain compromise over holidays"[URL]
  28. Chan Ho Jeong, "A Study on Adversarial Examples for Image-Based Deep Learning Model in the Military", Proceedings of Symposium of the Korean Institute of communications and Information Sciences, pp.1452~1453 (2021)
  29. W. Brendel, "Decision-Based Adversarial Attacks : Reliable Attacks Against Black-Box Machine Learning Models", International Conference on Learning Representations (2018)
  30. 안윤수, "블랙 박스 모델의 출력값을 이용한 AI 모델 종류 추론 공격", 정보보호학회논문지, 32(5), pp.817~826 (2022), 한국정보보호학회[DOI]
  31. Ministry of Science and Technology, "Guideline for Trustworthy AI Development", ~ (2022)
  32. 김세용, "4차 산업혁명시대 스마트 강군 건설을 위한 국방 데이터의 전략적 활용 방안연구", 융합보안 논문지, 20(4), pp.113~123 (2020), 한국융합보안학회
  33. Ministry of National Defense, "Second Session of the Defense Data Management Committee Held by Ministry of National Defense", Press Release, ~ (2023)
  34. Financial Security Institute, "Guideline for Financial Sector AI Security", ~ (2023)
  35. Tramèr, Florian, "Ensemble adversarial training: Attacks and Defenses" (2020)
  36. J. Jia, "MemGuard : Defending against Black-Box Membership Inference Attacks via Adversarial Examples", Proceedings of the 2019 ACM SIGSAC Conference on Computer and Communications Security, pp.259~274 (2019)
  37. DARPA, "Explainable Artificial Intelligence", ~ (2016)
  38. 오동한, "국방 분야에서 인공지능 기술 활용실태와 XAI 기술 활용방향 제시", 디지털콘텐츠학회논문지, 23(5), pp.943~951 (2022), 한국디지털콘텐츠학회[DOI]
  39. 이용복, "인공지능(AI) 무기체계 시험평가방법 발전방안 연구: 분류모델 성능평가를 중심으로", 신뢰성 응용연구, 22(1), pp.1~9 (2022), 한국신뢰성학회[DOI]
  40. 양우성, "국방획득체계 적용 한국형 보안위험관리 프레임워크", 정보보호학회논문지, 32(6), pp.1183~1192 (2022), 한국정보보호학회[DOI]

관련 논문AI추천

AI 국방정보시스템 도입 시 예상되는 AI 고유 보안 취약점 분석 및 보안 가이드라인 연구장백철, 최종현한국국방연구원 · 국방정책연구2024 · 제40권 제3호국방 AI의 보안성 강화를 위한 보안정책 및 연구개발 전략 수립방향김대건, 김주성, 이종관, 이종덕, 황슬기한국정보보호학회 · 정보보호학회논문지2024 · 제34권 제6호인공지능 기반 방위사업 보안 취약성 및 대책 연구김도영, 정웅규한국공안행정학회 · 한국공안행정학회보2022 · 제31권 제3호국방 생성형 AI 구축 방안강인한, 최인숙국방보안연구소 · 국방과 보안2024 · 제6권 제1호국방 인공지능 인프라 분석 및 발전방안조재규한국국방연구원 · 국방정책연구2021 · 제36권 제4호국방 AI 개발 활성화를 위한 군 R&D Open Source Platform 구축 필요성이상근, 장상국방위사업연구소 · 선진국방연구2022 · 제5권 제3호

이 간행물의 다른 논문 (18건)

차분 계산 분석 대응을 위한 WBC-AES Dummy LUT 생성 방안 연구석병진, 서승희, 이창훈, 최민영pp. 363-374완전 동형 암호에서의 정밀한 맥스 풀링 연산이은상pp. 375-381최적의 큐빗수를 만족하는 LED 블록암호에 대한 양자 회로 구현송민호, 송경주, 장경배, 서화정, 김원웅pp. 383-389T-table을 사용한 경량 블록 암호 PIPO의 최적화 구현김인성, 홍석희, 김선엽, 김성겸, 신한범, 최민식pp. 391-399ARMv8 환경에서 NIST LWC SPARKLE 효율적 구현이명훈, 홍석희, 김선엽, 김성겸, 김인성, 서석충, 권동근, 신한범, 김규상pp. 401-410
원문 보기