목록 보기
[AI Agent] 검색부터 상담 기록까지 이어지는 서비스 구조 설계
AI

[AI Agent] 검색부터 상담 기록까지 이어지는 서비스 구조 설계

베스핀글로벌
베스핀글로벌
2026년 11월 17일

두줄요약

FastAPI 기반 상담 지원 서비스의 검색·답변·기록 흐름을 책임과 자원 수명 기준으로 분리했습니다. 컨테이너, 권한 검증, 부분 실패, 관측과 테스트의 운영 원칙을 설명합니다.

문제 상황

  • 이벤트 검색, 선택 문서 기반 상세 질의, 즐겨찾기·이력 관리가 이어지는 상담 흐름
  • 하나의 처리 함수에 기능을 집중할 때 변경 범위와 장애 지점 파악의 어려움

구조와 흐름

  • FastAPI lifespan에서 컨테이너 생성·종료를 관리하고 서비스 객체는 지연 초기화
  • 라우터의 HTTP 계약·인증 주체 전달, Agent 서비스의 업무 순서 조합, 검색·저장 계층의 데이터 처리 분리
  • 검색 이력, 대화 이력, 즐겨찾기, 최근 본 이벤트를 목적과 식별 기준별로 분리

트레이드오프

  • 검색 경로와 답변 경로 분리로 모델 장애 시 검색 기능 독립성 확보
  • 공유 서비스 객체와 요청별 사용자·세션 상태의 분리로 요청 간 상태 혼합 방지
  • 논리적 계층 분리와 공유 DB·연결 풀에 따른 물리적 장애 전파 가능성 구분

성능/운영 포인트

  • 초기화 잠금과 성공 객체만 캐시하는 방식으로 동시 초기화 및 실패 상태 방지
  • 워커 수를 고려한 DB 연결 한도와 비동기 클라이언트·동기 작업 실행 경계 관리
  • 요청 ID 기반 단계별 시간·상태 추적과 검색 성공·이력 저장 성공의 분리 관측

다음 읽기

#AI Agent 주제를 이어서 읽기

[AI Agent] 상담 흐름과 오류를 검증하는 API 테스트 설계

고객 컨택 AI Agent의 검색·질의·저장 흐름을 API 계약과 상담 시나리오 관점에서 검증하는 방법을 정리했습니다. 테스트 더블·통합 테스트·품질 회귀를 분리하고 CI 배포 기준으로 함께 운영합니다.

베스핀글로벌
베스핀글로벌
AI
전체 보기

댓글 0개

댓글을 작성하려면 로그인이 필요합니다.

댓글을 불러오는 중...