RAG 없이 20만 대 자동차와 실시간으로 대화하기 (2)
RAG 대신 내부 API를 직접 활용해 실시간 차량 정보를 전달하는 API 증강 생성 아키텍처를 소개했습니다. 병렬 호출, 캐싱, SSE 스트리밍으로 실시간성과 비용 효율을 함께 개선했습니다.
#RAG#LLM#API
14700
RAG 없이 20만 대 자동차와 실시간으로 대화하기 (2)
모든 블로그
대표 인기 포스트RAG 없이 20만 대 자동차와 실시간으로 대화하기 (2)147 조회147 조회 AI AI
AI
AI
AI
엔카닷컴
도메인medium.com
주요 카테고리 AI
활동 요약
- 최근 30일
- 0개
- 평균 조회
- 56
- 누적 조회
- 335
- 전체 글
- 6개
- 마지막 발행
- 2025. 11. 24.
엔카닷컴 기술 블로그 글 (5)
엔카닷컴 AI 개발/기획 공모전 안내
엔카닷컴이 대학(원)생 대상 AI 개발/기획 공모전을 개최했습니다. 차량 데이터 기반 모델 개발과 LLM 서비스 기획 아이디어를 모집했습니다.
#LLM#검색#추천
2300
엔카믿고 챗봇에 ‘추천질문’을 더하기까지
엔카믿고 챗봇에 대화 맥락 기반 추천질문을 붙이며 SSE, 보증 분기, Structured Output 문제를 해결했습니다. 동적 프롬프팅과 명확한 JSON 지침으로 안정성을 높이고 답변량도 19% 증가했습니다.
#Gemini API#SSE#프롬프트 엔지니어링
2700
RAG 없이 20만 대 자동차와 실시간으로 대화하기 (1)
20만 대 차량의 실시간 데이터를 다루기 위해 RAG의 한계를 검토했습니다. 검색 기반보다 API로 직접 정보를 조합하는 아키텍처가 더 적합하다고 판단했습니다.
#RAG#LLM#벡터DB
3300
엔카닷컴 AI 블로그를 시작합니다!
엔카닷컴이 방대한 중고차 데이터 문제를 해결하기 위한 AI 블로그 시작을 알렸습니다. 검색, 추천, 상담 등 다양한 영역의 도입 경험과 시행착오를 꾸준히 공유할 예정입니다.
#검색#추천#자동화
1700