Day1Company의 Amazon EKS와 Amazon Bedrock 기반 초개인화 학습 피드백 서비스 사례

문제 상황

• 1:1 수업의 음성 대화 데이터가 수업 종료 후 소실되어 학습 분석과 데이터 기반 의사결정이 어려움
• 튜터 역량과 컨디션에 따른 피드백 품질 편차, 반복 행정 업무로 인한 리소스 비효율

해결 방법

• Amazon EKS와 Amazon Bedrock을 결합한 하이브리드 아키텍처로 전처리, STT, 데이터 분석, 리포트 생성의 4단계 비동기 파이프라인 구성
• 단계 분리 원칙, 데이터 정제, 3회 실행 검증으로 환각과 작업 누락을 줄이고 일관된 피드백 품질 확보
• EKS GPU Spot 인스턴스와 HPA, Karpenter, SQS를 활용해 STT와 분석 워크로드를 독립적으로 확장

성능/운영 포인트

• 자체 STT 엔진과 스팟 인스턴스로 외부 API 대비 STT 비용 75% 절감
• 비동기 큐 기반 처리로 트래픽 변동 대응성과 운영 안정성 강화
• Bedrock 토큰 제한은 AWS 지원팀과 협업해 서비스 요건 수준으로 조정

적용해볼 점

• 대규모 컨텍스트를 한 번에 처리하기보다 작업을 최소 단위로 분리하는 설계
• AI 결과에 검증 단계를 두고, 필요한 데이터만 정제해 전달하는 방식