

Inner Loop 엔지니어링으로 본 Deep Insight Chatbot – 대화형 분석 챗봇의 4가지 설계 결정
Deep Insight의 Inner Loop 챗봇 설계에서 데이터 보호, 속도, 신뢰성, 비용을 맞추는 4가지 결정을 정리했습니다. DuckDB 샌드박싱과 세션 단위 OLAP 상주, SQL 투명성, prompt cache로 대화형 분석 도구를 구현했습니다.
#AWS#DuckDB
29005분


Deep Insight의 Inner Loop 챗봇 설계에서 데이터 보호, 속도, 신뢰성, 비용을 맞추는 4가지 결정을 정리했습니다. DuckDB 샌드박싱과 세션 단위 OLAP 상주, SQL 투명성, prompt cache로 대화형 분석 도구를 구현했습니다.


티오더가 Slack 기반 Text2SQL 에이전트 티스푼을 AWS와 LangGraph로 구현한 사례를 소개했습니다. 단계적 검색, 이중 승인, SQL 검증으로 안전한 데이터 조회 흐름을 만들었습니다.

Text2SQL 기반 InsightLens로 자연어만으로 SQL을 생성하는 서비스를 개발했습니다.\nRAG와 에이전트 설계를 통해 참조 데이터 품질과 운영 개선에 집중했습니다.


LG전자 한국영업본부의 Agentic AI 기반 인사이트 추출 시스템 개발 사례를 소개했습니다. 데이터 접근성 개선과 분석 자동화를 통해 마케팅 업무 효율을 크게 높인 과정을 설명했습니다.


KCC가 Amazon Bedrock Tool Use로 부서별 업무를 연결하는 Multi Agent 플랫폼을 구축한 사례를 소개했습니다. 손익 분석 중심의 에이전트 아키텍처와 Text2SQL, 가드레일, 프롬프트 캐싱 적용 방식도 공유했습니다.

카카오페이 해커톤 2등 프로젝트로 거래내역에 메모와 이미지를 더하는 금융 경험을 소개했습니다. 자연어 검색과 이미지 생성에 AWS Bedrock, Claude 3.5, Nova Canvas를 활용한 구현 과정을 설명했습니다.