Reference 기반 AI 모델의 효과적인 해석에 관한 연구
A Study on Effective Interpretation of AI Model based on Reference
1
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
오늘날 AI(Artificial Intelligence) 기술은 다양한 분야에서 활용 목적에 맞게 분류, 회기 작업을 수행하며 광범위하게 활용되고 있으며, 연구 또한 활발하게 진행 중인 분야이다. 특히 보안 분야에서는 예기치 않는 위협을 탐지해야 하며, 모델 훈련과정에 알려진 위협 정보를 추가하지 않아도 위협을 탐지할 수 있는 비 지도학습 기반의 이상 탐지 기법이 유망한 방법이다. 하지만 AI 판단에 대한 해석 가능성을 제공하는 선행 연구 대부분은 지도학습을 대상으로 설계되었기에 학습 방법이 근본적으로 다른 비 지도학습 모델에 적용하기는 어려우며, Vision 중심의 AI 매커니즘 해석연구들은 이미지로 표현되지 않는 보안 분야에 적용하기에 적합하지 않다. 따라서 본 논문에서는 침해공격의 원본인 최적화 Reference를 탐색하고 이와 비교함으로써 탐지된 이상에 대한 해석 가능성을 제공하는 기법을 활용한다. 본 논문에서는 산출된 Reference를 기반으로 실존 데이터에서 가장 가까운 데이터를 탐색하는 로직을 추가 제안함으로써 실존 데이터를 기반으로 이상 징후에 대한 더욱 직관적인 해석을 제공하고 보안 분야에서의 효과적인 이상 탐지모델 활용을 도모하고자 한다.
Abstract
Today, AI (Artificial Intelligence) technology is widely used in various fields, performing classification and regression tasks according to the purpose of use, and research is also actively progressing. Especially in the field of security, unexpected threats need to be detected, and unsupervised learning-based anomaly detection techniques that can detect threats without adding known threat information to the model training process are promising methods. However, most of the preceding studies that provide interpretability for AI judgments are designed for supervised learning, so it is difficult to apply them to unsupervised learning models with fundamentally different learning methods. In addition, previously researched vision-centered AI mechanism interpretation studies are not suitable for application to the security field that is not expressed in images. Therefore, In this paper, we use a technique that provides interpretability for detected anomalies by searching for and comparing optimization references, which are the source of intrusion attacks. In this paper, based on reference, we propose additional logic to search for data closest to real data. Based on real data, it aims to provide a more intuitive interpretation of anomalies and to promote effective use of an anomaly detection model in the security field.
참고문헌 (14)
- Cam, Arif, "Global AI Survey: AI proves its worth, but few scale impacts", pp.1~11 (2019)
- 신경아, "악성코드 대응을 위한 신뢰할 수 있는 AI 프레임워크", 정보보호학회논문지, 32(5), pp.1019~1034 (2022), 한국정보보호학회[DOI]
- Adadi, Amina, "Peeking inside the black-box : a survey on explainable artificial intelligence(XAI)", IEEE access, 6, pp.52138~52160 (2018)
- Das, Arun, "Opportunities and challenges in explainable artificial intelligence (xai): A survey", pp.1~24 (2020)
- Yunsu Lee, "AI", X-AI technology research trend for cyberattack detection based on cryptographic communication, 2019, pp.29(3), 14~21
- Lundberg, Scott M., "A unified approach to interpreting model predictions", Advances in neural information processing systems, 30, pp.1~10 (2017)
- ZHOU, Bolei, "Learning deep features for discriminative localization", Proceedings of the IEEE conference on computer vision and pattern recognition, pp.2921~2929 (2016)
- Liat Antwarg, "Explaining anomalies detected by autoencoders using shapley additive explanations", Expert Systems with Applications, 186(115736), pp.1~37 (2021)
- Han, Dongqi, "DeepAID : interpreting and improving deep learning-based anomaly detection in security applications", Proceedings of the 2021 ACM SIGSAC Conference on Computer and Communications Security (2021)
- Montavon, "Methods for interpreting and understanding deep neural networks", Digital signal processing, 73, pp.1~15 (2018)
- 유승재, "Study on Improving Endpoint Security Technology", 융합보안 논문지, 18(3), pp.19~25 (2018), 한국융합보안학회
- Sjarif, Nilam Nur Amir, "Endpoint detection and response : Why use machine learning?", 2019 International Conference on Information and Communication Technology Convergence (ICTC), pp.283~288 (2019), IEEE
- MinJi Choe, "Method to Generate Signature for HWP Malware Detection Based on Threat Factors", Proceedings of the Korean Information Science Society Conference, 49(1), pp.1312~1314 (2022)
- Sungtaek Oh, "Study on IoT threat detection technology through artificial neural network algorithm", REVIEW OF KIISC, 29(6), pp.59~65 (2019)