카메라-라이다 융합 모델의 오류 유발을 위한 스케일링 공격 방법
Scaling Attack Method for Misalignment Error of Camera-LiDAR Calibration Model
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
자율주행 및 robot navigation의 인식 시스템은 성능 향상을 위해 다중 센서를 융합(Multi-Sensor Fusion)을 한 후, 객체 인식 및 추적, 차선 감지 등의 비전 작업을 한다. 현재 카메라와 라이다 센서의 융합을 기반으로 한 딥러닝 모델에 대한 연구가 활발히 이루어지고 있다. 그러나 딥러닝 모델은 입력 데이터의 변조를 통한 적대적 공격에 취약하다. 기존의 다중 센서 기반 자율주행 인식 시스템에 대한 공격은 객체 인식 모델의 신뢰 점수를 낮춰 장애물 오검출을 유도하는 데에 초점이 맞춰져 있다. 그러나 타겟 모델에만 공격이 가능하다는 한계가 있다. 센서 융합 단계에 대한 공격의 경우 융합 이후의 비전 작업에 대한 오류를 연쇄적으로 유발할 수 있으며, 이러한 위험성에 대한 고려가 필요하다. 또한 시각적으로 판단하기 어려운 라이다의 포인트 클라우드 데이터에 대한 공격을 진행하여 공격 여부를 판단하기 어렵도록 한다. 본 연구에서는 이미지 스케일링 기반 카메라-라이다 융합 모델(camera-LiDAR calibration model)인 LCCNet 의 정확도를 저하시키는 공격 방법을 제안한다. 제안 방법은 입력 라이다의 포인트에 스케일링 공격을 하고자 한다. 스케일링 알고리즘과 크기별 공격 성능 실험을 진행한 결과 평균 77% 이상의 융합 오류를 유발하였다.
Abstract
The recognition system of autonomous driving and robot navigation performs vision work such as object recognition, tracking, and lane detection after multi-sensor fusion to improve performance. Currently, research on a deep learning model based on the fusion of a camera and a lidar sensor is being actively conducted. However, deep learning models are vulnerable to adversarial attacks through modulation of input data. Attacks on the existing multi-sensor-based autonomous driving recognition system are focused on inducing obstacle detection by lowering the confidence score of the object recognition model.However, there is a limitation that an attack is possible only in the target model. In the case of attacks on the sensor fusion stage, errors in vision work after fusion can be cascaded, and this risk needs to be considered. In addition, an attack on LIDAR's point cloud data, which is difficult to judge visually, makes it difficult to determine whether it is an attack. In this study, image scaling-based camera-lidar We propose an attack method that reduces the accuracy of LCCNet, a fusion model (camera-LiDAR calibration model). The proposed method is to perform a scaling attack on the point of the input lidar. As a result of conducting an attack performance experiment by size with a scaling algorithm, an average of more than 77% of fusion errors were caused.
참고문헌 (21)
- Shadrin, Sergej S, "Analytical review of standard Sae J3016 “taxonomy and definitions for terms related to driving automation systems for on-road motor vehicles” with latest updates", Avtomobil. Doroga. Infrastruktura (2019)
- "40+ Corporations Working On Autonomous Vehicles"[URL]
- D. Frossard, "End-to-end Learning of Multi-sensor 3D Tracking by Detection", ICRA. IEEE, pp.635~642 (2018)
- M. Liang, "Deep Continuous Fusion for Multi-Sensor 3D Object Detection", ECCV, pp.641~656 (2018)
- X. Chen, "Multi-View 3D Object Detection Network for Autonomous Driving", CVPR, pp.1907~1915 (2017)
- D. Xu, "PointFusion : Deep Sensor Fusion for 3D Bounding Box Estimation", CVPR, 2018, pp.244~253 (2018)
- M. Liang, "Multi-Task MultiSensor Fusion for 3D Object Detection", CVPR, pp.7345~7353 (2019)
- X. Du, "Car Detection for Autonomous Vehicle : LIDAR and Vision Fusion Approach Through Deep Learning Framework", IROS, pp.749~754 (2017)
- J. Ku, "Joint 3D Proposal Generation and Object Detection from View Aggregation", IROS, pp.1~8 (2018)
- X. Ma, "Accurate Monocular 3D Object Detection via Color-Embedded 3D Reconstruction for Autonomous Driving", CVPR, pp.6851~6860 (2019)
- X. Du, "A General Pipeline for 3D Detection of Vehicles", ICRA IEEE, pp.3194~3194–3200 (2018)
- Cao, Y., "Invisible for both camera and lidar : Security of multi-sensor fusion based perception in autonomous driving under physical-world attacks", IEEE Symposium on Security and Privacy (SP), pp.176~194 (2021)
- Abdelfattah, M., "Adversarial attacks on camera-lidar models for 3d car detection", IEEE, 2021, 2189~2194
- Quiring, E, "Adversarial preprocessing: Understanding and preventing image-scaling attacks in machine learning", USENIX Conference on Security Symposium, pp.1363~1380 (2020)
- Geiger, A, "Are we ready for autonomous driving? the kitti vision benchmark suite", IEEE conference on computer vision and pattern recognition, pp.3354~3361 (2012)
- Caesar, H., "nuscenes : A multimodal dataset for autonomous driving", IEEE, 2020, 11621~11631
- Lv, X., "LCCNet : LiDAR and camera self-calibration using cost volume network", IEEE, 2021, 2894~2901
- A. V. Oppenheim, "Discrete-time Signal Processing" (1999), Prentice-Hall
- "DCCP source code"[URL]
- Q. Xiao, "Seeing is not believing : Camouflage attacks on image scaling algorithms", 28th USENIX Security Symposium, pp.443~460 (2019)
- S. Boyd, "Convex Optimization" (2004), Cambridge university press