똑똑한 Agent는 어떻게 일을 할까? : LLM Workflow상세소개

핵심 내용

• T멤버십 영화예매 에이전트에 LLM Workflow를 도입한 개발 경험 소개
• 사용자 발화에서 엔티티를 추출해 상태를 관리하고, 개인화 컨텍스트를 반영하는 구조
• 엔티티 추출 모델과 워크플로우 모델을 분리해 함수 호출, 답변 생성, 모델 조합을 최적화
• 긴 대화 유지, 엔티티 인식률 향상, 다양한 태스크별 모델 오케스트레이션 효과 정리

적용해볼 점

• 멀티턴 대화형 서비스에서 상태 관리용 엔티티 저장 구조 검토
• 핵심 태스크와 보조 태스크를 분리해 모델과 프롬프트를 다르게 적용하는 방식 고려
• 사용자 개인 정보와 선호를 대화 흐름에 반영하는 개인화 전략 참고