이 글은 Deep Insight 시리즈의 Inner Loop 관점에서 대화형 분석 챗봇 설계 결정을 정리합니다. 분석가가 매일 쓰는 챗봇에서는 데이터 보호·속도·신뢰성·비용을 동시에 만족해야 하며, 특히 차트 수치의 데이터 정확성이 핵심 기준입니다. 데이터 유출과 환각 SQL 실행을 막기 위해 LLM은 SQL만 생성하고 실행은 DuckDB in-memory에서 하며 connection에 enable_external_access=false와 lock_configuration=true를 적용합니다. 속도는 세션마다 DuckDB:memory:를 상주해 group by/aggregation을 수백 ms로 처리하고, 세션 수는 LRU eviction으로 관리합니다. 신뢰성은 생성 SQL을 채팅에서 항상 노출하고 직접 수정/재실행할 수 있게 해 분석가가 결과를 검증하도록 강제합니다. 비용은 Bedrock Prompt Caching으로 멀티턴 입력 토큰을 ~90% cache read로 줄이고, 웰컴/후속 질문은 별도 LLM 호출 없이 처리해 멀티턴 호출 횟수를 최소화합니다.