목록 보기
[AI Agent] 대화 맥락을 이어 주는 상담 이력 저장과 관리
AI

[AI Agent] 대화 맥락을 이어 주는 상담 이력 저장과 관리

베스핀글로벌
베스핀글로벌
2026년 11월 17일

두줄요약

AI 상담 이력을 미들웨어와 관리 계층으로 분리해 저장·조회하는 구조를 설명했습니다. 세션 소유권, 중복 요청, 맥락 제한, 스트리밍·저장 실패 정책을 함께 다뤘습니다.

문제 상황

  • 후속 질문 이해를 위한 대화 이력 보존과 필요한 맥락 재구성 필요
  • 세션 혼입, 중복 요청, 저장 실패, 스트리밍 중단으로 인한 기록 신뢰성 저하 위험

구조와 흐름

  • 상담 처리의 검증된 대화 객체를 미들웨어가 받아 공통 마스킹과 저장 호출 수행
  • 이력 관리 계층의 트랜잭션·중복 처리·턴 순서 관리, 조회 API의 인증 주체·소유권 검증 분리
  • 저장소의 전체 이력과 모델 입력용 최근 완료 턴·길이 제한 맥락 구성 분리

트레이드오프

  • 응답 후 직접 저장 방식의 빠른 응답과 프로세스 종료 시 이력 유실 가능성
  • 응답 전 저장·백그라운드 작업·내구성 있는 이벤트 전달 방식별 지연, 유실, 중복 처리 부담
  • 스트리밍 최종 답변 저장과 중단 답변 분리 저장 사이의 재현성·운영 복잡도 차이

성능/운영 포인트

  • 세션·요청·턴 식별자 분리와 복합 키·외래 키를 통한 소유권, 순서, 재시도 제어
  • 질문·답변 저장 전 공통 민감정보 마스킹과 원문·요약·검색 색인의 보존·삭제 범위 관리
  • 저장 성공·실패·지연·중복 처리와 중단 턴을 분리한 지표 및 동시 요청·권한 검증 테스트

다음 읽기

#FastAPI 주제를 이어서 읽기

[AI Agent] 검색부터 상담 기록까지 이어지는 서비스 구조 설계

FastAPI 기반 상담 지원 서비스의 검색·답변·기록 흐름을 책임과 자원 수명 기준으로 분리했습니다. 컨테이너, 권한 검증, 부분 실패, 관측과 테스트의 운영 원칙을 설명합니다.

베스핀글로벌
베스핀글로벌
AI
전체 보기

댓글 0개

댓글을 작성하려면 로그인이 필요합니다.

댓글을 불러오는 중...