신한카드, 온톨로지와 소형언어모델로 고효율 AI 챗봇 구축하기
온톨로지와 분산형 에이전트 구조로 소형 언어모델 기반 AI 챗봇을 고도화했습니다. 멀티턴 대화와 주제 전환을 처리하면서 정확도, 비용, 지연 시간을 함께 개선했습니다.
#LLM#온톨로지
37005분
필터 1
LLM의 환각을 잠재울 지식의 지도, ‘온톨로지(Ontology)’
LLM의 환각을 잠재울 지식의 지도, ‘온톨로지(Ontology)’
온톨로지를 LLM 환각 완화용 지식 구조로 설명하고 RAG와의 차이를 정리했습니다. Graph RAG와 AWS 서비스 조합으로 하이브리드 활용 방안도 소개했습니다.
#LLM#RAG
119005분
토스 피플 : 데이터를 ‘이해하는’ 구조를 설계합니다
토스 Data Architect의 커리어와 데이터 설계 철학을 소개했습니다. 데이터 품질, 속도, AI 이해 가능성을 함께 고려하는 구조화 관점이 핵심입니다.
#데이터 아키텍처#데이터 거버넌스
103005분