AI
Spring AI와 Typesense로 1,400명의 질문에 답변하기
두줄요약
Slack 문의 채널의 반복 답변 문제를 Spring AI와 검색엔진으로 자동화했습니다. Kendra에서 Typesense 하이브리드 검색으로 전환해 짧은 질문 품질과 운영 비용을 개선했습니다.
문제 상황
- Slack 문의 채널에 1,400명 이상이 모이면서 소수 담당자가 반복적으로 답변하는 구조
- 답변 대부분이 이미 Confluence 생활백서에 존재해 정보 재전달과 검색 부담이 누적
- 담당자 부재 시 즉시 응답이 어려워 실시간성 부족 발생
해결 방법
- Spring AI와 Bedrock으로 질문 의도 판단과 Tool 호출 흐름 구성
- 초기에는 Kendra로 Confluence 연동 검색을 구현하고, 이후 Typesense 기반 벡터 검색으로 전환
- 짧은 질문 품질 개선을 위해 키워드 추출과 하이브리드 검색을 추가
성능/운영 포인트
- 비용 부담 때문에 Kendra에서 오픈소스 Typesense로 구조 변경
- 페이지와 첨부파일을 분리한 컬렉션, PDF 텍스트 추출, 야간 스케줄링으로 벡터 적재 운영
- 한국어 짧은 질의 대응을 위해 벡터 검색과 키워드 검색을 결합