Amazon Bedrock과 Amazon Nova를 활용한 애니펜의 빠르고 비용 효율적인 AI 서비스 개발 여정

문제 상황

• 사진 입력 기반 AI 콘텐츠 생성에서 비전 모델, 멀티모달 언어 모델, 이미지 생성 모델을 하나의 컨테이너에 통합한 구조
• 컨테이너 이미지 용량 증가와 매 요청마다 무거운 컨테이너 재구동으로 인한 긴 생성 시간
• 콘텐츠 생성에 20~30분이 소요되며 사용자 불만이 누적된 상황

해결 방법

• Amazon Bedrock 기반 Amazon Nova Lite, Nova Pro, Nova Canvas 도입으로 이미지 분석, 텍스트 생성, 이미지 생성을 분리 처리
• 추론 프로파일과 Converse API, LangChain을 활용해 모델 호출과 멀티턴 대화 흐름을 단순화
• 결과물을 Amazon S3에 저장하고 AWS Lambda로 완료 알림을 전달하는 비동기 파이프라인 구성

성능/운영 포인트

• 로컬 모델 기반 컨테이너 대비 이미지 크기 22.1GB에서 19.7GB로 약 10% 감소
• 평균 추론 시간 861초에서 47초로 95% 이상 단축
• AWS 기반 인프라와 IAM, Lambda, S3 연동으로 운영 효율성과 접근 제어 일관성 확보