AI
생성형 AI와 금융의 만남, 대출 음성 상담 챗봇 서비스
두줄요약
비대면 금융의 개인화 부족을 해결하기 위해 AI 대출 음성 상담 챗봇을 개발했습니다. 합성 데이터와 RAG, AWS AI 서비스를 결합해 실시간 상담과 추천 흐름을 구현했습니다.
문제 상황
- 비대면 금융 환경에서 대출 상담의 개인화 부족
- 실제 대출 데이터의 개인정보 제약으로 인한 AI 활용 어려움
- 음성 상담과 생성형 AI를 결합한 실시간 상담 흐름 필요
해결 방법
- Amazon Transcribe, Bedrock, Polly를 연결한 음성→텍스트→응답 생성→음성 변환 파이프라인 구성
- WebSocket과 코루틴 채널로 실시간 통신 및 비동기 처리 흐름 단순화
- 합성 데이터 생성과 RAG, OpenSearch Serverless로 대출 도메인 맞춤 추천 역량 강화
성능/운영 포인트
- 세션별 채널 매핑으로 다중 사용자 간 데이터 섞임 방지
- 오디오 큐와 무음 감지로 대용량 음성 처리 지연 완화
- 싱글 에이전트와 프롬프트 설계로 일관된 상담 경험 유지