AI
보이저엑스의 ComfyUI 워크플로우 기반 AI 비디오 생성 파이프라인 구축 여정
두줄요약
보이저엑스는 Wan2.1과 ComfyUI, Ray Serve를 결합해 AI 비디오 생성 파이프라인을 구축했습니다. AWS 환경에서 로딩·추론 최적화와 AMI 표준화로 비용 효율과 확장성을 확보했습니다.
핵심 내용
- 보이저엑스 Vrew에 AI 비디오 생성 기능을 도입하기 위해 Wan2.1 1.3B 모델을 선택하고, ComfyUI 워크플로우와 Ray Serve를 결합한 추론 파이프라인을 구축한 과정
- AWS 환경에서 EBS 성능, 초기 모델 로딩, 추론 최적화, 멀티 GPU 병렬화(FSDP, USP)와 캐싱을 통해 서비스 응답 속도와 운영 효율을 개선한 사례
- ComfyUI를 Python 스크립트와 AMI 패키지 형태로 구성해 Ray worker 초기화 시 모델과 custom_nodes를 로드하는 방식으로 확장성과 재사용성을 확보한 구성
적용해볼 점
- 오픈소스 생성 모델 도입 시 성능뿐 아니라 인퍼런스 비용과 운영 환경까지 함께 검토할 필요
- 워크플로우를 코드와 AMI로 표준화하면 동일 환경의 복제와 확장이 쉬워짐
- 캐싱과 사전 로딩으로 콜드 스타트 지연을 줄이는 설계가 중요