국방 인공지능 윤리에 대한 연구
A Study on Defense AI Ethics
1
조회
0
다운로드
4
인용
0
참고문헌
키워드
초록
인공지능은 경제·사회·문화 등의 인류 삶과 연결된 모든 분야에서 큰 영향을 미치고 있고, 문제 해결, 효율성 증가, 비용 절감 등의 가치를 창출하고 있다. 하지만 인공지능의 발전과 확산은 예상하지 못한 부작용도 초래하고 있어 이를 예방하려는 방안 마련이 시급하다. 특히 국방 분야에서 인공지능의 활용은 인명과 직접 연관되어 있으므로 다른 분야보다 더 엄격한 기준이 필요하다. 본 논문에서는 우리 군이 인공지능 기술을 활용하면서 반드시 준수해야 할 윤리원칙을 제시하였다. 제시된 윤리원칙을 준수한 가운데 인공지능 기술이 적용된 무기체계를 개발하고 사용한다면 우리 군은 국제법을 준수하는 정당성을 확보하면서 ‘인공지능 기반 과학기술 강군 육성’ 빠르게 달성할 수 있을 것이다.
Abstract
Artificial intelligence (AI) has had a significant impact on all fields of human life, including economy, society, and culture, and has led to many benefits, such as prompt problem-solving, enhanced efficiency, and cost savings. However, the development and widespread use of artificial intelligence have also been causing unexpected side effects, and thus it is urgent to take opportune and appropriate measures to prevent them. In particular, since the use of artificial intelligence in the defense field is directly related to human life, more stringent ethical standards are required than in any other fields. This article seeks to suggest ethical standards that ROK military should comply with when using artificial intelligence technology. By developing and using AI-applied weapon systems while complying with these ethical principles, the ROK military will be able to achieve its goal of fostering a strong AI-based scientific and technological military force as well as ensure compliance with international law.
참고문헌 (23)
- 관계부처 합동, "사람이 중심이 되는 인공지능(AI) 윤리기준", 제19차 4차산업혁명위원회 심의안건 제2호, ~ (2020)
- 사람이 중심이 되는 인공지능을 위한 신뢰할 수 있는 인공지능 실현 전략(안), "관계부처 합동", 과학기술정보통신부, ~ (2021)
- 국가인권위원회, "인권을 지키는 인공지능 : 인공지능 개발과 활용에 관한 인권 가이드라인 해설서", 국가인권위원회, ~ (2022)
- 국방부, "전쟁법 해설서", 국군인쇄창, ~ (2013)
- 국방비전 2050, "국방부", 국방부, ~ (2021)
- 신성호, "자율무기에 대한 국제사회 논쟁과 동북아", 국제.지역연구, 28(1), pp.1~28 (2019), 국제학연구소[DOI]
- 원호섭, "KAIST, ‘AI 국방기술’ 연구, 해외과학계, 보이콧 파문", 매일경제, ~ (2018)
- 조재규, "국방 인공지능 인프라 분석 및 발전방안", 국방정책연구, 36(4), pp.109~146 (2021), 한국국방연구원[DOI]
- 최연수, "스마트하다고? AI는 차별을 학습한다", 중앙일보, ~ (2021)
- AI HLEG(High Level Expert Group on AI)., "Ethics Guidelines for Trustworthy AI", European Commission, ~ (2019)
- AI HLEG(High Level Expert Group on AI)., "The Assessment List for Trustworthy Artificial Intelligence(ALTAI)", European Commission, ~ (2020)
- "How Tech Employees Are Pushing Silicon Valley to Put Ethics Before Profit" (2018)[URL]
- DIB (Defense Innovation Board), "AI Principles: Recommendations on the Ethical Use of Artificial Intelligence by the Department of Defense", Supporting document. Defense Innovation Board of the United States Department of Defense, ~ (2019)
- EU(European Commission)., "Artificial Intelligence for Europe", Press release, ~ (2018)
- Fjeld, J., "Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-based Approaches to Principles for AI", SSRN Electronic Journal (2020)
- Jobin, A., "The Global Landscape of AI Ethics Guidelines", Nature Machine Intelligence, 1, pp.389~399 (2019)
- "Fighting Artificial Intelligence Battles: Operational Concept for Future AI-Enabled Wars (Joint Studies Paper Series No. 4)" (2021)[URL]
- NSLD(National Security Law Department)., "Operational Law Handbook", The Judge Advocate General’s Legal Center and School, ~ (2021)
- "Preparing for the Future of Artificial Intelligence" (2016)[URL]
- "The National Artificial Intelligence Research and Development Strategic Plan: 2019 Update" (2019)[URL]
- "Recommendation of the Council on Artificial Intelligence" (2019)[URL]
- OSTP(Office of Science and Technology Policy)., "Guidance for Regulation of Artificial Intelligence Applications. Memorandum for the Heads of Executive Departments and Agencies", White House Office of Science and Technology Policy (OSTP), ~ (2019)
- "Recommendation on the Ethics of Artificial Intelligence (SHS/BIO/REC-AIETHICS/2021)" (2021)[URL]