Amazon EC2 Spot 인스턴스로 디지털 휴먼 렌더링하기

문제 상황

• 실시간 고충실도 디지털 휴먼 렌더링에서 GPU 비용과 가용성, 확장성, 고가용성을 동시에 맞춰야 하는 운영 복잡성
• 인스턴스 타입마다 디지털 휴먼 수용량이 달라 단순한 스팟 할당 전략으로는 과다 프로비저닝과 비용 낭비 발생
• 여러 리전과 스팟 가용성 변동을 수동으로 계산·조정하는 방식의 운영 한계

원인 분석

• 기존 스팟 전략이 인스턴스 간 워크로드 밀도 차이를 고려하지 못해 세션당 실효 비용 최적화에 한계
• 쿠버네티스 레플리카 수와 ASG 크기, 리전별 용량 변화를 함께 반영하는 워크로드 인지형 판단 부재
• GPU 워크로드 특성상 호환 인스턴스 풀과 AZ, 리전 전반의 분산 운영 필요성 증가

해결 방법

• Amazon EKS와 AWS Lambda 기반의 Group Manager로 스팟 가용성과 가격을 주기적으로 평가하며 ASG와 쿠버네티스 레플리카를 동기 조정
• 인스턴스 타입을 서비스 실효 비용 기준으로 우선순위화하고, 스팟 우선으로 배치하되 필요 시 온디맨드로 폴백
• Amazon EventBridge, Route 53, ALB, CloudWatch를 활용해 다중 리전 라우팅, 상태 확인, 가시성 확보