멀티모달과 스마트계약 기반 고위험 AI 실시간 안전성 평가 시스템 설계
Design of a Multimodal and Smart Contract-Based Real-Time Safety Evaluation System for High-Risk AI
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
최근 의료, 금융 등 고위험 분야의 AI 확산은 데이터 편향, 보안 취약점, 윤리적 문제로 인해 강력한 안전성평가의 필요성을 요구하고 있다. 한국지능정보사회진흥원(NIA)은 7단계 프로세스 기반 안전성 인증을 수행하고 있으나정적 평가 방식, 수동 검토로 인한 1∼2주 처리 지연, 감사 로그의 투명성 부족이라는 구조적 한계를 지니고 있다. 이에, 본 연구에서 제안하는 방식은 NIA 7단계를 확장한 9단계 멀티모달 실시간 안전성 평가 시스템으로 AWS Lambda와Comprehend, Rekognition을 활용해 5분 주기 편향탐지기반의 텍스트와 이미지를 동시 분석하는 멀티모달 AI 안전성평가로 정보편향 탐지의 정확도를 기존 연구 대비 8.89% 개선한 98%을 달성하였다. 또한, Hyperledger Fabric에스마트 계약으로 전 과정 로그 자동화를 활용함으로써 기존 방식 대비 6배 빠른 응답성과 23% 정확도를 향상하였다. 본 연구가 향후 데이터 프라이버시 침해 예방과 고위험 AI 안전성 평가에 활용되기를 기대한다.
Abstract
The recent proliferation of Artificial Intelligence(AI) in high-risk sectors, such as healthcare and finance, necessitates rigorous safety assessments to address data bias, security vulnerabilities, and ethical concerns. Although the National Information Society Agency(NIA) currently conducts safety certifications based on a 7-step process, the framework faces structural limitations, including static assessment methods, processing delays of one to two weeks caused by manual reviews, and a lack of transparency in audit logs. To address these issues, this study proposes a 9-step multimodal real-time safety assessment system that extends the existing NIA framework. Utilizing AWS Lambda, Amazon Comprehend, and Amazon Rekognition, the proposed system performs simultaneous analysis of text and images with a 5-minute bias detection cycle. This multimodal AI safety assessment approach achieved a 98% accuracy rate in information bias detection, representing an 8.89% improvement over existing research. Furthermore, by implementing automated logging for the entire process via Smart Contracts on Hyperledger Fabric, the system demonstrates six times faster response speeds and a 23% improvement in accuracy compared to conventional methods. This study is expected to contribute significantly to preventing data privacy breaches and enhancing safety assessments for high-risk AI applications.