AI
모델 설계부터 최적화까지: 풀스택으로 해결한 Jetson Orin NX 저조도 400 ms → 28 ms
두줄요약
YUV 분리와 경량 DeltaViT 설계로 Jetson Orin NX의 저조도 복원 지연 시간을 400ms에서 28ms 미만으로 단축했습니다. 비참조 화질 지표와 다채널 처리 요구를 함께 검증했습니다.
문제 상황
- Jetson Orin NX에서 기존 저조도 영상 복원 모델의 약 400ms 지연 시간
- CCTV 객체 검출·추적을 위한 30FPS, 33ms 이하 실시간 처리 및 비참조 화질 평가 요구
원인 분석
- 저조도 개선 모듈과 노이즈 제거 모듈을 결합한 전체 이미지 복원 구조의 높은 연산량
- TensorRT 10.3.x 환경에서 수동 ONNX 그래프 최적화 효과의 제한
- INT8 양자화의 낮은 적용 레이어 비율, 가지치기에 따른 화질 저하와 목표 성능 미달
구조와 흐름
- YUV 색공간 분리 후 휘도 Y 채널만 98K 파라미터 DeltaViT로 복원
- 약 2/5 다운샘플링, Bilinear 업샘플링, 경량 UV 색감 보정 및 합성 파이프라인
- Torch 모델의 ONNX 변환과 TensorRT 엔진 배포
성능/운영 포인트
- Jetson Orin NX에서 GPU compute time 28ms 미만으로 33ms 목표 충족
- RTX 3090 벤치마크에서 LOE·NIQE 1위, 1080p 추론 8.92ms 및 약 112FPS
- RTX 3090 단일 GPU에서 1080p 30FPS 기준 3개 채널 동시 처리
