데브옵스
엣지 AI 환경을 DEEPX DX-M1 NPU와 AWS IoT로 손쉽게 배포하는 방법
두줄요약
DEEPX DX-M1 NPU와 AWS IoT Greengrass로 엣지 AI 모델 컴파일과 배포를 자동화하는 방법을 소개했습니다. S3 업로드, DXNN 변환, Thing Group 기반 OTA 배포로 현장 운영을 단순화했습니다.
문제 상황
- 엣지 디바이스 수가 늘수록 NPU 드라이버, 펌웨어, 런타임, 모델 버전 관리가 복잡해지는 운영 부담
- 장비별로 동일한 실행 환경을 반복 배포해야 하는 현장 확장성 문제
해결 방법
- ONNX 모델을 S3에 올리면 이벤트 기반 워크플로가 DXNN으로 자동 컴파일하는 구조
- AWS IoT Core와 Greengrass로 Thing Group 단위 런타임을 OTA 배포하고 상태를 원격 관리
- ZTP로 등록된 디바이스에 드라이버, dx_rt, 펌웨어, dx_stream을 자동 설치
구조와 흐름
- 클라우드에서 모델 준비와 엣지 배포를 분리한 이중 단계 아키텍처
- CloudFormation, S3, Lambda, Step Functions, EC2, Systems Manager를 활용한 컴파일 파이프라인
- Greengrass 컴포넌트 기반의 그룹 단위 배포와 실행 상태 보고 흐름
주의할 점
- ZTP 범위는 AWS IoT Core에 등록된 디바이스의 실행 환경 자동 배포까지 포함
- 첫 부팅 시 Fleet Provisioning 자동화는 별도 설계 필요
- 프라이빗 서브넷 사용 시 NAT Gateway 또는 VPC 엔드포인트 구성 필요