본문 바로가기
KERD
논문KCI 등재

딥러닝 설명을 위한 슈퍼픽셀 제외-포함 다중스케일 접근법

Superpixel Exclusion-Inclusion Multiscale Approach for Explanations of Deep Learning

오일석|오강한|유태웅|서다솜
(사)한국스마트미디어학회 (Korean Institute of Smart Media)|2019.06|스마트미디어저널 (Smart Media Journal)|제8권 제2호|pp. 39-45|DOI http://dx.doi.org/10.30693/smj.2019.8.2.39

1

조회

0

다운로드

5

인용

0

참고문헌

키워드

시각화딥러닝visualizationdeep learning슈퍼픽셀설명모델explanation modelsuperpixel
주제분류컴퓨터학

초록

딥러닝이 보편화되면서 예측 결과를 설명하는 연구가 중요해졌다. 최근 슈퍼픽셀에 기반한 다중스케일 결합 기법이 제안되었는데, 물체의 모양을 유지함으로써 시각적 공감이라는 장점을 제공한다. 이 기법은 예측 차이라는 원리에 기반을 두고 있으며, 슈퍼픽셀을 가리고 얻은 예측 결과와 원래 예측 결과의 차이를 보고 돌출맵을 구성한다. 본 논문은 슈퍼픽셀을 가리는 제외연산뿐 아니라 슈퍼픽셀만 보여주는 포함 연산까지 사용하는 새로운 기법을 제안한다. 실험 결과 제안한 방법은 IoU에서 3.3% 의 성능 향상을 보인다.

Abstract

As deep learning has become popular, researches which can help explaining the prediction results also become important. Superpixel based multi-scale combining technique, which provides the advantage of visual pleasing by maintaining the shape of the object, has been recently proposed. Based on the principle of prediction difference, this technique computes the saliency map from the difference between the predicted result excluding the superpixel and the original predicted result. In this paper, we propose a new technique of both excluding and including super pixels. Experimental results show 3.3% improvement in IoU evaluation.

참고문헌 (27)

  1. Y. LeCun, "Deep learning", Nature, 521, pp.436~444 (2015)
  2. G. Montavon, "Methods for interpreting and understanding deep neural networks", Digital Signal Processing, 73, pp.1~15 (2018)
  3. 박선, "오픈 소스 기반의 딥러닝을 이용한 적조생물 이미지 분류", 스마트미디어저널, 7(2), pp.34~39 (2018), (사)한국스마트미디어학회[DOI]
  4. 김서정, "딥러닝을 이용한 양파 밭의 잡초검출 연구", 스마트미디어저널, 7(3), pp.16~21 (2018), (사)한국스마트미디어학회[DOI]
  5. 오정원, "머신러닝 적용 과일 수확시기 예측시스템 설계 및 구현", 스마트미디어저널, 8(1), pp.74~81 (2019), (사)한국스마트미디어학회[DOI]
  6. L. H. Gilpin, "Explaining Explanations:An Overview of Interpretability of Machine Learning", ~ (2019)
  7. B. Goodman, "European Union regulations on algorithmic decision-making and a ”right to explanation", AI MAGAZINE, 38(4), pp.50~57 (2017)
  8. Visualizing higher-layer features of a deep network, "D. Erhan", University of Montreal, ~ (2009)
  9. W. Samek, "Evaluating the visualization of what a deep neural network has learned", IEEE Transactions on Neural Networks and Learning Systems, 28(11), pp.2660~2673 (2016)
  10. K. Simonyan, "Deep inside convolutional networks: visualising image classification models and saliency maps", International Conference on Learning Representations Workshop (2013)
  11. M. Robnik-Šikonja, "Explaining classifications for individual instances", IEEE Transactions on Knowledge and Data Engineering, 20(5), pp.589~600 (2008)
  12. D. S. Seo, "Regional Multi-scale Approach for Visually Pleasing Explanations of Deep Neural Networks", ~ (2018)
  13. Z.C. Lipton, "The mythos of model interpretability", Proceedings of the 2016 ICML Workshop on Human Interpretability in Machine Learning (WHI 2016) (2016)
  14. D. Doran, "What does explainable AI really mean? A new conceptualization of perspectives", ~ (2017)
  15. J. Yosinski, "Understanding neural networks through deep visualization", International Conference on Machine Learning (2015)
  16. M. D. Zeiler, "Visualizing and understanding convolutional networks", European Conference on Computer Vision, pp.818~833 (2014)
  17. S. Bach, "On pixel-wise explanations for non-linear classifier decisions by layer-wise relevance propagation", PloS One, 10(7), pp.e0130140~ (2015)
  18. A. Shrikumar, "Learning important features through propagating activation differences", ICML’17Proceedings of the 34th International Conference on Machine Learning, 70, pp.3145~3153 (2017)
  19. B. Zhou, "Learning deep features for discriminative localization", IEEE Conference on Computer Vision and Pattern Recognition, pp.2921~2929 (2016)
  20. R. S. Selvaraju, "Grad-CAM:Visual explanations from deep networks via gradient-based localization", International Conference on Computer Vision, pp.618~626 (2017)
  21. S. Barratt, "InterpNET: Neural introspection for interpretable deep learning", Symposium on Interpretable Machine Learning (2017)
  22. Y. Dong, "Improving interpretability of deep neural networks with semantic information", The IEEE Conference on Computer Vision and Pattern Recognition(CVPR), pp.4306~4314 (2017)
  23. L. M. Zintgraf, "Visualizing deep neural network decisions: Prediction difference analysis", International Conference on Learning Representation (2017)
  24. M. T. Ribeiro, "Why should I trust you?: Explaining the predictions of any classifier", The 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, pp.1135~1144 (2016)
  25. J. Deng, "Imagenet: A large-scale hierarchical image database", IEEE Conference on Computer Vision and Pattern Recognition, pp.248~255 (2009)
  26. M. Y. Liu, "Entropy rate superpixel segmentation", IEEE Conference on Computer Vision and Pattern Recognition, pp.2097~2104 (2011)
  27. C. Szegedy, "Going deeper with convolutions", IEEE Conference on Computer Vision and Pattern Recognition, pp.1~9 (2015)

관련 논문AI추천

신경망 근사에 의한 다중 레이어의 클래스 활성화 맵을 이용한 블랙박스 모델의 시각적 설명 기법강준규, 김성찬, 이현석, 전민경대한임베디드공학회 · 대한임베디드공학회논문지2021 · 제16권 제4호딥러닝 기반의 Multi Scale Attention을 적용한 개선된 Pyramid Scene Parsing Network김준혁, 이상훈, 한현호한국융합학회 · 한국융합학회논문지2021 · 제12권 제11호딥러닝 기반의 Semantic Segmentation을 위한 DeepLabv3+에서 강조 기법에 관한 연구신석용, 이상훈, 한현호한국융합학회 · 한국융합학회논문지2021 · 제12권 제10호딥 러닝 기반의 팬옵틱 분할 기법 분석권정은, 조성인대한임베디드공학회 · 대한임베디드공학회논문지2021 · 제16권 제5호딥러닝 기반의 돌출 객체 검출을 위한 Saliency Attention 방법김진수, 김회준, 이상훈, 한현호한국융합학회 · 한국융합학회논문지2020 · 제11권 제12호의료영상 분야를 위한 설명가능한 인공지능 기술 리뷰강정운, 김민우, 박춘수, 이동언대한의용생체공학회 · 의공학회지2022 · 제43권 제4호

이 간행물의 다른 논문 (11건)

다중 GPU기반 홀로그램 생성을 위한 병렬처리 성능 최적화 기법 기재국중진pp. 9-15진동가속도 분석시스템에서 고속푸리에변환을 이용한 기준진동수의 검출 및 감쇠인식김황준pp. 16-20EH-WSN에서 에너지 효율 향상 및 전송지연 축소를 위한 MAC 프로토콜 설계나인호, 박석우pp. 21-28전술메쉬 트래픽 QoS 조율을 위한 네트워킹 노드의 개념 설계 및 실시간 모니터링강문중, 신준식, 권대훈, 김종원, 박주만pp. 29-38Image-to-Image Translation with GAN for Synthetic Data Augmentation in Plant Disease Datasets박동선, Haseeb Nazki, 윤숙, 이재환pp. 46-57
원문 보기