Edge AI 솔루션 개발
NVIDIA Jetson · RKNN NPU · DEEPX 기반 실시간 영상 분석 시스템
개요
다양한 Edge Device에서 Computer Vision 모델을 실시간으로 구동하기 위한 Edge AI 영상 분석 시스템을 개발했습니다. NVIDIA Jetson 제품군 4종(Xavier NX, AGX Xavier, Orin Nano, AGX Orin)을 중심으로 GPU 기반 추론 시스템을 구축하고, ODROID의 RKNN NPU와 DEEPX NPU 기반 추론 시스템으로 확장했습니다. 단순 모델 실행을 넘어 영상 입력, AI 추론, 후처리, 계수, 서버 전송까지 이어지는 전체 Edge Pipeline을 구축하고, 제한된 연산 자원에서 다중 카메라를 안정적으로 처리할 수 있도록 최적화했습니다.
문제
현장 환경에서 클라우드나 중앙 서버 없이 AI 모델을 독립적으로 실행해야 하는 요구사항이 있었습니다. 다양한 Edge Device 플랫폼(GPU, NPU)에 걸쳐 동작하면서도 제한된 연산 자원에서 다중 카메라를 안정적으로 처리하고, 추론 결과를 실시간으로 서버에 전송하는 End-to-End 시스템이 필요했습니다.
과정
GPU 파이프라인Jetson 4종 · DeepStream
Xavier NX, AGX Xavier, Orin Nano, AGX Orin까지 NVIDIA Jetson 제품군 4종에서 DeepStream 기반 GPU Pipeline을 구성해 Multi-Camera 실시간 추론 환경을 만들었습니다. 이 중 Orin Nano를 주력으로 통행량 계수와 군중 계수 시스템을 개발했습니다.
최적화TensorRT · HW Decoder
TensorRT로 모델을 최적화하고, 다중 RTSP 스트림 처리에서 CPU 사용을 줄여 GPU와 Hardware Decoder를 최대한 활용했습니다.
NPU 확장RKNN · DEEPX
저전력·소형 디바이스 적용을 위해 ODROID의 RKNN NPU와 DEEPX NPU로 확장해 특정 플랫폼에 종속되지 않는 구조를 만들었습니다.
현장 배포Device에서 Server까지
추론 결과, 이미지, 디바이스 상태를 중앙 서버로 전송하고, 현장 네트워크와 디바이스 설치, 장애 분석과 대응까지 맡았습니다.
화면과 도식
NVIDIA Jetson · GPU
ODROID · NPU
DEEPX · NPU
성과
- Jetson 제품군 4종부터 NPU까지 다양한 Edge AI Hardware Platform 적용 경험 확보
- Orin Nano 기반 Multi-Camera 실시간 영상 분석 시스템 구축
- DeepStream / TensorRT 기반 GPU 영상 처리 Pipeline 최적화
- 통행량 계수 및 군중 계수 시스템의 실제 현장 Edge Device 배포
- RKNN 및 DEEPX를 활용한 NPU 기반 Edge AI Architecture 확장
- Device, Inference, Network, Server, Field Deployment까지 전체 Edge AI 시스템 직접 구축
담당 역할
- NVIDIA Jetson 기반 Edge AI 실행 환경 구축
- DeepStream 기반 Multi-Camera 영상 Pipeline 개발
- RTSP Multi-Stream 실시간 처리
- TensorRT 기반 모델 최적화 및 추론
- Detection / Tracking / Counting Pipeline 개발
- Jetson Xavier NX · AGX Xavier · Orin Nano · AGX Orin 디바이스별 성능 및 호환성 검증
- RKNN NPU 기반 AI 모델 변환 및 Runtime 적용
- DEEPX NPU 기반 Edge AI 시스템 개발
- CPU / GPU / NPU 연산 분배 및 Pipeline 최적화
- Edge Device와 중앙 서버 간 데이터 연동
- 추론 결과, 이미지 및 Device 상태 전송
- 현장 네트워크 및 Edge Device 설치
- 현장 장애 분석 및 대응