인공지능 시스템 신뢰성 감리 프레임워크
A Study of Artificial Intelligence System Reliability Audit Framework
0
조회
0
다운로드
2
인용
0
참고문헌
키워드
초록
인공지능 기술이 급속한 발전과 도입 확장에 따라 사회‧경제적 파급효과도 증가하고 있다. 반면, 챗봇 ‘이루다’, MIT의 ‘사이코패스 AI’, 딥페이크 등 인공지능의 오남용, 사회적 역기능 문제가발생하며 신뢰 가능한 인공지능 시스템 개발의 필요성이 대두되고 있다. 이에, 세계 주요 기관에서 발표한 ‘신뢰할 수 있는 인공지능을 위한 윤리기준’ 등을 기초로 인공지능 신뢰성 감리의 필요성이 제시되고 있으나, 시스템 관점에서 구체적이고, 적용 가능한 인공지능 신뢰성 감리 기준 개발은 현재 매우 미흡한 실정이다. 본 연구에서는 인공지능 신뢰성 개념의 확립과 함께 인공지능 시스템 개발 사업에 적용할 수있는 프레임워크와 점검항목을 개발하고자 하였다. 기존 문헌분석을 통해 도출한 인공지능 신뢰성에 대한 5개의 주요 속성과 이를 평가할 수 있는 3개의 인공지능 감리 관점으로 인공지능 시스템 신뢰성 감리 프레임워크를 구성하여 제시하였다. 또한, 인공지능 시스템 신뢰성 감리 프레임워크에 기반한 인공지능 시스템 신뢰성 감리 점검항목을 개발하였다. 최종적으로 FGI 기법을사용하여 개발한 점검항목에 대한 감리 중요도와 적용 가능성을 검토 및 평가하여 실효성을 검토하였다.
Abstract
As artificial intelligence (AI) technology rapidly develops and expands, its societal and economic effects also increase. However, issues of AI misuse, social dysfunction, and deepfakes have arisen, highlighting the need for developing trustworthy AI systems. While ethical standards for trustworthy AI have been proposed by major global institutions, the development of specific and applicable AI reliability audit criteria from a system perspective remains highly inadequate. This study aims to establish the concept of AI reliability and develop a framework and checklist for AI system development projects. Through a literature review, we identified five key attributes of AI reliability and proposed an AI system reliability audit framework consisting of three perspectives that can evaluate them. Furthermore, we developed an AI system reliability audit checklist based on the framework and evaluated its importance and applicability using the FGI analysis.
참고문헌 (24)
- 개인정보보호위원회, "인공지능 개인정보보호 자율점검표", ~ (2021)
- 신뢰할 수 있는 인공지능 실현 전략(안), "과학기술정보통신부", ~ (2021)
- 과학기술정보통신부, "인공지능 학습용 데이터 품질관리 가이드라인 v1.0" (2021)
- 2021 인공지능 산업 실태조사 보고서, "과학기술정보통신부", ~ (2022)
- 인공지능 신뢰체계 정립방안 연구, "소프트웨어정책연구소", ~ (2022)
- 이경모, "기업 내 블록체인 적용을 위한 블록체인 감사 프로그램", 석사, pp.2019
- 신기술 적용 정보시스템 감리 수행방안 연구: 빅데이터, 인공지능, 블록체인을 중심으로, "정보시스템감리협회", ~ (2019)
- 인공지능 윤리기준 실천을 위한 자율점검표(안), "정보통신정책연구원", ~ (2022)
- 정보시스템 감리점검해설서 정보시스템 감리점검해설서(안) V3.0, "한국정보사회진흥원", ~ (2008)
- 한국정보통신기술협회, "신뢰할 수 있는 인공지능 개발 안내서" (2022)
- ATL 1.0: 인공지능 기술 수준 정의, "ETRI", ~ (2020)
- Ethics guidelines for trustworthy AI, "EU", ~ (2019)
- The Assessment List for Trustworthy Artificial Intelligence (ALTAI) for self assessment, "EU", ~ (2020)
- White paper on Artificial Intelligence: A European approach to excellence and trust, "EU", ~ (2020)
- IIA's Artificial Intelligence auditing framework, "Fandhy Haristha S.", ~ (2017)
- Auditing Artificial Intelligence, "ISACA", ~ (2019)
- ISO, "ISO 19011:2018 Guidelines for auditing management systems", ~ (2018)
- Mckinsey & Company, "The future is now: Unlocking the promise of AI in industrials", ~ (2022)
- AI risk management framework: Second Draft, "NIST", ~ (2022)
- Recommendation of the council on Artificial Intelligence, "OECD", ~ (2019)
- Zicari, R. V., "How to assess trustworthy AI in practice", ~ (2022)
- "IBM" (2021)[URL]
- "한국IDC, 2021년 전 세계 AI 솔루션에 3418억 달러 지출 전망" (2021)[URL]
- "The seven patterns of AI" (2019)[URL]