인공지능법 제정안과 설명가능한 인공지능(XAI)의 기본원칙에 관한 연구
A Study on the Artificial Intelligence Act and the Basic Principles of Explainable Artificial Intelligence(XAI)
3
조회
0
다운로드
2
인용
0
참고문헌
키워드
초록
설명가능한 인공지능(XAI, eXplainable Artificial Intelligence)은 기계학습 및 딥러닝(심층학습) 등의 인공지능이 학습한 최종 결과에 대해 인간이 이해할 수 있고, 설명 가능하도록 이유나 근거를 제시하는 기술이다. 인공지능의 태생적 한계점인 블랙박스(Black Box)는 불투명성과 복잡성을 증가시키며, 이를 보완하기 위한 방안으로 XAI가 제시되었다. 인공지능 기술의 내용과 효과를 명확히 이해하고, 자율성에 의존한 인공지능 산업이 아닌 구체적이고 실효적인 규범에 바탕을 둔 인공지능 체계 또는 XAI 체계가 필요한 시점이다. 또한 인공지능 시장의 건전성과 공익 보호를 위해 인공지능 기본법 또는 지능정보화 기본법 제정이 필요하며 인공지능 법안의 통일된 인공지능 법체계(법적 프레임워크)가 필요한 시점이다. 본 연구는 인공지능 백서와 인공지능법 제정안을 토대로 투명성(Transparency), 책임성(Accountability), 공정성(Fairness), 신뢰성(Reliability), 결과시연성(Result Demonstrability)의 5가지 XAI 기본원칙을 제안하였다. 본 연구에서 제시한 XAI 기본원칙은 인간 중심의 인공지능과 신뢰 가능한 인공지능 생태계 구축에 기여할 것으로 기대한다.
Abstract
XAI (eXplainable Artificial Intelligence) is a technology that explains the process by which a result is created so that the user understands and correctly interprets the operation and final result of an artificial intelligence system. The Black Box, the limit of artificial intelligence, increases opacity and complexity, and XAI was proposed as a way to compensate for this. It is time to clearly understand the contents and effects of artificial intelligence technology and need an XAI system based on concrete and effective norms, not an artificial intelligence industry that relies on autonomy. In addition, it is time for a unified artificial intelligence legal system (legal framework) of artificial intelligence basic law and artificial intelligence legislation to protect the health of artificial intelligence market and public interest. Deep learning and reinforcement learning, which have recently been actively used in various industries, can make incomprehensible judgments, so consumers (users) do not understand the conclusions of the models, resulting in a problem of lack of trust. The ultimate goal of XAI is to create reliable artificial intelligence, and the understandability of the algorithm and the explainability of the output must be guaranteed. Based on the discussion above, this study proposed five basic principles of XAI: Transparency, Accountability, Fairness, Reliability, and Result Demonstrability based on the Artificial Intelligence White Paper and the Artificial Intelligence Act enactment. The basic principles of XAI presented in this study are expected to contribute to the establishment of human-centered artificial intelligence and a reliable artificial intelligence ecosystem.
참고문헌 (17)
- 정한민, "ChatGPT를 이용한 문헌 작성 설계 및 이슈", 한국지식정보기술학회 논문지, 18(1), pp.31~40 (2023), 한국지식정보기술학회[DOI]
- 임희경, "설명가능한 인공지능(explainable AI, XAI)의 필요성과 연구동향", 정보기술융합공학논문지, 12(1), pp.51~57 (2022), IT연구소[DOI]
- Financial Services Commission, "Financial sector AI development and application guide", Regular Report of Financial Services Commission, 1, pp.1~116 (2022)
- M. V. Lent, "An explainable artificial intelligence system for small-unit tactical behavior", Proceedings of the National Conference on Artificial Intelligence, pp.900~907 (2004)
- Y. Kim, "A study on the strategies for ensuring trustworthiness of artificial intelligence modeling-Focusing on explainable AI’s use cases", Annual Conference of KIPS 2022, 29(2), pp.854~856 (2022)
- 송한진, "AI의 LSTM기법을 이용한 금융시계열 데이터 변동성 예측방법 연구", 한국지식정보기술학회 논문지, 14(6), pp.665~673 (2019), 한국지식정보기술학회[DOI]
- 양건필, "기계학습과 XAI를 활용한 아파트 가격과 지역특성과의 관계 분석", 부동산연구, 32(3), pp.7~24 (2022), 한국부동산연구원[DOI]
- 원종관, "신용 데이터의 이미지 변환을 활용한 합성곱 신경망과 설명 가능한 인공지능(XAI)을 이용한 개인신용평가", 정보시스템연구, 30(4), pp.203~226 (2021), 한국정보시스템학회
- 천예은, "설명 가능한 AI 기술을 활용한 신용평가 모형에 대한 연구", 한국데이터정보과학회지, 32(2), pp.283~295 (2021), 한국데이터정보과학회[DOI]
- V. Moscato, "A benchmark of machine learning approaches for credit score prediction", Expert Systems with Applications, 165(1), pp.113986~ (2021)
- K. Futagami, "Pairwise acquisition prediction with SHAP value interpretation", The Journal of Finance and Data Science, 7, pp.22~44 (2021)
- H. Yang, "The extraction of early warning features for predicting financial distress based on XGBoost model and Shap framework", International Journal of Financial Engineering, 8(3), pp.214~234 (2021)
- J. J. Ohana, "Explainable AI (XAI) models applied to the multi-agent environment of financial markets", Explainable and Transparent AI and Multi-Agent Systems: Third International Workshop, pp.189~207 (2021), Springer Publishing
- 홍석한, "유럽연합 ‘인공지능법안’의 주요 내용과 시사점", 유럽헌법연구, (38), pp.243~282 (2022), 유럽헌법학회[DOI]
- 김진우, "유럽연합의 인공지능 백서에 관한 고찰", 외법논집, 44(4), pp.129~161 (2020), 법학연구소[DOI]
- D. Son, "Algorithmic control, concrete standards for transparency", DAIG, 2, pp.51~67 (2021)
- H. Choi, "Focusing on explanation of deep learning model completed with explainable AI(XAI)research trends and implications", Software Policy &Research Institute, 1, pp.1~10 (2021)