안전한 AI 서비스를 위한 국내 정책 및 가이드라인 개선방안 연구
A Study on the Improvement of Domestic Policies and Guidelines for Secure AI Services
0
조회
0
다운로드
3
인용
0
참고문헌
키워드
초록
인공지능 기술의 발전이 가속화되며 다양한 산업 분야에서 데이터를 활용한 자동화 및 지능화를 가능하게 하는 AI 서비스의 제공이 증가하며, AI 활용으로 발생할 수 있는 AI 보안 위험에 대한 우려가 높아지고 있다. 이에 국외에서는 AI 규제의 필요성과 중요성을 인지하고 관련 정책 및 규제 마련에 주력하고 있다. 국내에서도 이러한 움직임을 보이고 있으나, AI 규제에 대한 구체화가 이루어지지 않은 실정이다. 따라서, 기존의 정책안이나 가이드라인을 비교 분석하여 공통 요소 도출 및 보완점 파악, 국내 AI 규제 방향에 대해 논의할 필요성이 있다. 본 논문에서는 AI 라이프 사이클에서 발생할 수 있는 AI 보안 위험에 대해 조사하고, 각 위험에 대한 분석을 통해 국내 AI 규제 수립에 고려되어야 할 사항 6가지를 도출한다. 이를 토대로 국내 AI 정책안 및 가이드라인을 분석하고, 보완사항을 확인한다. 또한, 미국, EU의 AI 법률의 주요 내용 검토와 본 논문의 분석 결과를 기반으로 국내 AI 정책안과 가이드라인에 대한 개선방안을 제시한다.
Abstract
With the advancement of Artificial Intelligence (AI) technologies, the provision of data-driven AI services that enable automation and intelligence is increasing across industries, raising concerns about the AI security risks that may arise from the use of AI. Accordingly, Foreign countries recognize the need and importance of AI regulation and are focusing on developing related policies and regulations. This movement is also happening in Korea, and AI regulations have not been specified, so it is necessary to compare and analyze existing policy proposals or guidelines to derive common factors and identify complementary points, and discuss the direction of domestic AI regulation. In this paper, we investigate AI security risks that may arise in the AI life cycle and derive six points to be considered in establishing domestic AI regulations through analysis of each risk. Based on this, we analyze AI policy proposals and recommendations in Korea and validate additional issues. In addition, based on a review of the main content of AI laws in the US and EU and the analysis of this paper, we propose measures to improve domestic guidelines and policies in the field of AI.
참고문헌 (18)
- ChatGPT(ChatGPT)Security Threats and Implications, "Dowon Kim", 8~16, pp.KISA Insight 2023 Vol.3 (2023)
- The rise of GhatGPT and the trend of personal information protection regulations in major countries, "KISA", 8~9, pp.2023 Privacy Report VOL 4 (2023)
- Pilmo Jung, "Proposed Act on the Development of Artificial Intelligence and the Establishment of Trust Base, etc", 1~26 (2021)
- Personal Information Protection Commission, "Policy Direction for Safe Use of Personal Information in the Age of Artificial Intelligence", pp.1~20 (2023)
- Financial Security Institute, "AI Security Guidelines for Financial Sector", AGR-VII-2023-②-405, ~ (2023)
- Analysis of Security Issues and the Emergence of AI-Centered Society, "Jinho Yoo", 1~29, pp.KISA Insight 2022 Vol.3 (2022)
- "AI attack types"[URL]
- National Institute of Standards and Technology, "Artificial Intelligence Risk Management Framework (AI RMF 1.0)" (2023)
- Choi Daeseon, "Security and privacy issues in the AI era", TTA Journal, 199(1079), pp.1~7 (2022)
- European Parliament, "Artificial Intelligence Act", EPRS (2023)
- Ministry of Science and ICT, "Launch of Digital New Order Establishment Consultative Body", Korea Policy Briefing, ~ (2023)
- Personal Information Protection Commission·Cooperation of related ministries, "Digital Platform Government Realization Plan" (2023), Presidential Committee on the Digital Platform Government
- "Personal Information Protection Commission AI Policy direction"[URL]
- Personal Information Protection Commission, "AI Personal Information Protection Self-inspection Table", ~ (2021)
- Financial Supervisory Service, "AI Guidelines for Financial Sector", ~ (2021)
- Financial Services Commission and 9 institutions, "Guide to AI Development and Utilization in the Financial Sector", ~ (2022)
- National Information Society Agency, "Data Quality Guidelines and Implementation Guide for Artificial Intelligence Learning v. 3. 0", ~ (2023)
- , 2023