AI
AWS에서 NVIDIA Cosmos 월드 파운데이션 모델 실행하기
두줄요약
AWS에서 NVIDIA Cosmos WFM을 활용해 Physical AI용 합성 데이터를 생성하는 방법을 소개했습니다. 실시간 EKS 배포와 배치 AWS Batch 배포의 두 가지 프로덕션 아키텍처를 비교했습니다.
핵심 내용
- Physical AI 학습용 고품질 합성 데이터 부족 문제와 AWS에서 NVIDIA Cosmos WFM을 활용한 생성 접근
- Cosmos Predict, Transfer, Reason의 역할과 Physical AI용 영상 생성·추론 활용 범위
- AWS 배포 विकल्प으로 EKS 기반 실시간 추론과 Batch 기반 배치 추론 제시
구조와 흐름
- EKS 기반 NIM 마이크로서비스: 저지연, 고가용성, 엔터프라이즈급 오케스트레이션 중심
- AWS Batch 기반 컨테이너: 오프라인 대량 추론, 작업 시점 자원 프로비저닝, 비용 효율 중심
선택 이유
- 실시간 대화형 워크로드에는 지연 시간 최소화와 지속 가용성 우선
- 대규모 합성 데이터 생성에는 탄력적 처리량과 사용량 기반 과금 우선
성능/운영 포인트
- Kubernetes와 AWS 관리형 서비스로 자동 롤아웃, 롤백, 모니터링, 보안 통합
- Batch의 스팟 인스턴스와 자동 스케줄링으로 비용 절감과 운영 단순화