임베디드 환경에서 비전 파이프라인의 효율적 실행을 위한 멀티프로세싱 구조 연구
Multiprocessing-Based Parallel Pipeline for Real-Time Multi-Target Tracking on Embedded Systems
1
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
본 논문은 다층 표적 지정 및 추적 알고리즘을 임베디드 환경에서 실시간으로 안정적으로 수행하기 위한 멀티프로세싱 기반 병렬 파이프라인 구조를 제안한다. 최근 첨단 산업 분야에서 복합적인 인공지능 비전 기술의 현장 적용 요구가 급증하고 있으나, 자원이 제한된 소형 임베디드 시스템에서 이를 실시간으로 처리하는 것은 여전히 기술적 난제로 남아있다. 이에 본 연구는 전처리, 추론, 후처리 단계를 독립된 프로세스로 분리하고, 프로세스 간 큐(queue)를 활용해 프레임 단위의 병렬 처리를 통해 해결하고자 한다. 제안된 구조는 각 연산 단계의 특성에 따라 CPU, GPU, NPU 자원을 효율적으로 분산 배치함으로써 연산 자원의 유휴 시간을 줄이고 전체 처리율을 향상시켰으며, Jetson AGX Orin 및 RTX 3090 서버 환경에서의 성능을 실험적으로 검증하였다. Jetson 환경에서는 FPS가 약 88% 향상되는 안정적인 개선을 보인 반면, 서버의 TensorRT 환경에서는 내부 최적화와의 충돌로 성능 향상이 제한적이었다. 종합적으로 본 연구 결과는 멀티모델 기반 비전 알고리즘의 실시간 적용 가능성을 실험적으로 입증하여 고성능 서버 없이도 복잡한 비전 AI 모델의 온디바이스 구현을 가능하게 하며, 정밀 유도무기, 자율주행 드론 등 다양한 분야에 핵심기술로 활용될 것으로 기대된다.
Abstract
In this paper, we propose a multiprocessing-based parallel pipeline architecture for robust real-time implementation of multi-target designation and tracking algorithms in embedded environments. While the demand for on-site complex AI vision is surging in advanced industries, real-time processing on resource-constrained embedded systems remains a significant technical challenge. The proposed architecture addresses this by separating pre-processing, inference, and post-processing into independent processes, enabling frame-level parallelism. Furthermore, it efficiently distributes computations across CPU, GPU, and NPU resources to minimize idle time and improve overall throughput. On the Jetson AGX Orin platform, the architecture achieves an 88% improvement in FPS compared to a single-process baseline with stable enhancements in tracking accuracy. In contrast, on a server using the TensorRT runtime, performance gains were limited due to conflicts with its internal optimizations. These findings demonstrate that our architecture enables the on-device implementation of complex vision AI models without high-performance servers, making it a key technology for applications such as precision-guided weapons and autonomous drones.