서버 0대, 브라우저 SLM으로 만든 차트 추천 봇
20
AI 요약
이 글은 AI가 원문을 분석하여 핵심 내용을 요약한 것입니다.
이 게시물은 브라우저에서 서버 없이 SLM으로 차트 유형을 추천하는 봇을 만든 과정입니다.
핵심 요소
- 브라우저 실행 선택 이유: 데이터 유출 방지, API 비용 없음, 오프라인 가능성 장점과 모델 크기·추론 속도 제약 단점
- 브라우저 LLM 실행 방식 비교: Chrome Prompt API, WebLLM, Transformers.js, 서버 SLM 요약
- 최종 아키텍처: Transformers.js + WebGPU 우선·WASM 폴백, Web Worker에서 추론 분리
- 판단과 표현 분리 전략: 규칙 엔진으로 차트 타입 결정(결정론적), SLM은 한국어 설명과 하이라이트 생성
- 안정성 대비: JSON 출력 강제, 파싱 실패 시 bar로 폴백, temperature 기본 0으로 결정성 유도
- 실패에서 얻은 교훈: 축의 의미(카테고리 vs 연속) 판단 보강 필요, 특수 차트 진입 전에 추가 검증 필요
