오토인코더를 사용한 이상탐지 모델의 비교분석 및 이상치 판별 기준 제안
Comparative Analysis of Anomaly Detection Models using AE and Suggestion of Criteria for Determining Outliers
1
조회
0
다운로드
4
인용
0
참고문헌
키워드
초록
본 연구에선 제조 공정에서의 양/불량 판정을 위한 오토인코더(AE) 기반의 이상 탐지 방법들의 비교분석과 우수한 성능을 보인 이상치 판별 기준을 제시한다. 제조 현장의 특성상 불량 데이터의 수는적고, 불량의 형태가 다양하다. 이러한 특성은 정상과 비정상 데이터를 모두 활용하는 인공지능 기반양/불량 판정 모델의 성능을 저하시키고, 성능 향상을 위한 비정상 데이터의 추가 확보에 시간과 비용을발생시킨다. 이러한 문제를 해결하기 위해서 정상 데이터만을 이용해 이상 탐지를 수행하는 AE, VAE 등 AE 기반의 모델에 관한 연구들이 진행되고 있다. 본 연구에서는 Convolutional AE, VAE, Dilated VAE 모델을 기반으로 잔차 이미지에 대한 통계치와 MSE, 정보 엔트로피를 이상치 판별 기준으로선정하여 각 모델의 성능을 비교 분석했다. 특히 Convolutional AE 모델에 대해서 범위 값을 적용했을때, AUC PRC 0.9570, F1 Score 0.8812, AUC ROC 0.9548, 정확도 87.60%의 가장 우수한 성능을 보였다. 이는 기존의 이상치 판별 기준으로 자주 사용되었던 MSE에 비해 정확도 기준 약 20%P(Percentage Point) 의 성능 향상을 보이며, 이상치 판별 기준에 따른 모델 성능 향상이 가능함을 확인하였다.
Abstract
In this study, we present a comparative analysis of major autoencoder(AE)-based anomaly detection methods for quality determination in the manufacturing process and a new anomaly discrimination criterion. Due to the characteristics of manufacturing site, anomalous instances are few and their types greatly vary. These properties degrade the performance of an AI-based anomaly detection model using the dataset for both normal and anomalous cases, and incur a lot of time and costs in obtaining additional data for performance improvement. To solve this problem, the studies on AE-based models such as AE and VAE are underway, which perform anomaly detection using only normal data. In this work, based on Convolutional AE, VAE, and Dilated VAE models, statistics on residual images, MSE, and information entropy were selected as outlier discriminant criteria to compare and analyze the performance of each model. In particular, the range value applied to the Convolutional AE model showed the best performance with AUC PRC 0.9570, F1 Score 0.8812 and AUC ROC 0.9548, accuracy 87.60%. This shows a performance improvement of an accuracy about 20%P(Percentage Point) compared to MSE, which was frequently used as a standard for determining outliers, and confirmed that model performance can be improved according to the criteria for determining outliers.
참고문헌 (23)
- PCB Defect Inspection using Deep Learning, "Yeong-Tae Baek", KSCI, 325~326 (2018)
- Chul-jin, Park, "A study on the quality information management for preventing human errors at quality of ship", pp.2016
- Changes in labour demand and acceptability due to the Fourth Industrial Revoluation, "Ho Young, Lee", Korea Information Society Development, ~ (2019)
- E. S. Lee, "Trends in AI Technology for Smart Manufacturing in the Future", Electronics and telecommunications trends, 35(1), pp.60~70 (2020)[DOI]
- Deep Learning for Anomaly Detection: A Survey, "Raghavendra Chalapathy", CoRR, ~ (2019)
- Alberto Tellaeche Iglesias, "On Combining Convolutional Autoencoders and Support Vector Machines for Fault Detection in Industrial Textures", Sensors, 21(10), pp.3339~ (2021), MDPI AG[DOI]
- Jungsuk Kim, "Printed Circuit Board Defect Detection Using Deep Learning via A Skip-Connected Convolutional Autoencoder", Sensors, 21(15), pp.4968~ (2021), MDPI AG[DOI]
- Variational Autoencoder based AnomalyDetection using Reconstruction Probability, "Jinwon An", SNU Data MiningCenter, 1~18 (2015)
- Jonathan Masci, "Stacked convolutional auto-encoders for hierarchical feature extraction", International Conference on Artificial Neural Networks, ICANN, pp.52~59 (2011)
- Omid E. David, "DeepPainter: Painter Classification Using Deep Convolutional Autoencoders", ICANN, 9887, pp.20~28 (2016)
- Diederik P Kingma, "Auto-encoding variational bayes. ICLR", arXiv preprintarXiv:1312.6114, ~ (2013)
- "Taeu Kim"[URL]
- Shengyuan Piao, "Accuracy improvement of unet based on dilated convolution", Journal of Physics: Conference Series, 1345(5) (2019), IOP Publishing[DOI]
- VESAL.Sulaiman, "A 2D dilated residual U-Net for multi-organ segmentation in thoracic CT", arXiv preprint arXiv:1905.07710, ~ (2019)
- "Casting product image data for quality inspection"[URL]
- "Statistics Basics Lecture 1. Mean, Deviation, Variance, Standard Deviations"[URL]
- "Garlic"[URL]
- "CityWizard"[URL]
- "Entropy(Information Theory)"[URL]
- Robert Muller, "Claudia Linnhoff-Popien, Acoustic Anomaly Detection for Machine Sounds based on ImageTransfer Learning", CVPR (2021)
- "Evaluation Method of Classification Model"[URL]
- 박선일, "진단검사의 특성 평가를 위한 Receiver Operating Characteristic (ROC) 곡선의 활용", 한국임상수의학회지, 33(2), pp.97~101 (2016), 한국임상수의학회
- "Jakub Czakon"[URL]
