신한카드, 온톨로지와 소형언어모델로 고효율 AI 챗봇 구축하기
3
AI 요약

이 글은 AI가 원문을 분석하여 핵심 내용을 요약한 것입니다.

이 게시물은 신한카드가 온톨로지 기반 인텐트 분류, 분산형 Agentic AI, AI-to-AI 자율 업데이트로 소형 언어모델 기반 고효율 금융 챗봇을 구축한 내용을 다룹니다. 51개 인텐트를 Domain/Action/Tag로 구조화하고 sLLM으로 핵심 속성을 추출한 뒤 규칙 기반 그래프 매칭으로 최종 인텐트를 결정하여 정확도와 지연시간을 개선합니다. 온톨로지 적용 결과 카드 한도 관리 시나리오에서 분류 정확도가 84.2%→91.0%로 향상되며 topic switching에서도 98%에 가까운 정확도를 보인다고 설명합니다. 중앙집중형 오케스트레이터 병목을 피하기 위해 에이전트별 이진 분류를 병렬 실행하는 분산형 구조를 사용해 sLLM 한계와 5초 이내 응답 요건을 동시에 달성합니다. 또한 멀티턴 대화 시뮬레이션, 실패 분석, 수정 제안, 검증 및 자율 배포를 AI 에이전트 간 대화로 수행하는 Tikitaka로 자가 치유 업데이트 루프를 구현합니다. AWS Bedrock, AgentCore, MCP, Lambda, DynamoDB 등으로 전체 아키텍처를 구성했다고 밝힙니다.

연관 게시글