AI
매주 새로운 LLM 모델을 배포하는 제타의 AI 팀 이야기
두줄요약
제타 AI팀은 대화 기억력과 서사적 몰입을 개선하며 자체 LLM을 빠르게 배포했습니다.\n사용자 피드백을 학습에 반영하는 Data Flywheel과 A/B 테스트로 재미를 검증합니다.
문제 상황
- 캐릭터 대화 모델의 50~60턴 입력 길이 한계와 장기 대화 맥락 소실
- 다양한 장르·상황의 캐릭터 대화에서 재미, 몰입, 정서적 교감 구현 필요
해결 방법
- 과거 대화 주기적 요약을 모델 입력에 포함하는 장기 기억 연구
- 사용자 행동·피드백을 학습에 반영하는 Data Flywheel 기반 모델 개선
- 실제 사용자 반응을 검증하는 A/B 테스트와 약 2주 주기 배포
선택 이유
- 외부 LLM 대비 제품 고유 데이터 학습과 개선 자유도 확보를 위한 자체 모델 선택
- 논리성보다 캐릭터 대화의 재미와 정성적 효능감을 우선하는 제품 방향
성능/운영 포인트
- 주간 평균 사용 시간 중심 성장 지표에서 대화 이탈·몰입 중심 품질 지표로 전환
- 한국어 경험의 일본어 이식과 사용자 피드백 기반 문화·언어 적응
- 제한된 인력·GPU 환경에서 필요성이 검증된 문제 중심의 선택과 집중