Task Manager를 활용한 Spring AI RAG 챗봇 개발기

문제 상황

• Java·Spring Boot 기반 환경에서 PDF 파싱, 청킹, 임베딩, 벡터 검색이 연결된 RAG 챗봇 파이프라인 관리 필요
• 단계별 구현과 진행 상태를 체계화하기 위한 Task Manager 도입

선택 이유

• 기존 Spring Boot·CI/CD·모니터링·로깅 환경과의 높은 호환성
• Spring 생태계 기반 개발로 기술 도입 부담과 러닝 커브 축소
• Spring AI 추상화를 통한 임베딩 모델·벡터 저장소 교체 비용 절감

구조와 흐름

• Task Manager에 기술 스택과 요구사항을 자연어로 입력해 개발 규칙 및 작업 계획 생성
• PDF 페이지별 텍스트 추출, TokenTextSplitter 기반 청킹, OpenAI 임베딩 생성, Milvus 벡터 저장 순서
• 유사도 검색 결과를 컨텍스트로 활용한 OpenAI Chat Model 질의응답

장단점

• Spring AI의 DocumentReader, TokenTextSplitter, EmbeddingModel, VectorStore로 반복 구현 코드 축소
• Milvus의 저장·검색 파라미터와 벤더 종속 객체를 추상 인터페이스로 대체
• 벡터 저장소 변경 시 설정 중심 전환 가능하지만 세부 벤더 기능 활용 범위 제한 가능성