[Hands On] 질문 유형별 최적 LLM 모델 선택 AI Assistant 구축 실습

[Hands On] 질문 유형별 최적 LLM 모델 선택 AI Assistant 구축 실습
질문 유형에 따라 적합한 LLM을 자동 선택하는 Multi-LLM Assistant 실습을 소개했습니다. Flask와 Amazon Bedrock으로 라우팅 구조와 웹 UI를 구성해 비용과 정확도 개선 가능성을 보여주었습니다.
#LLM#AWS
51005분

질문 유형에 따라 적합한 LLM을 자동 선택하는 Multi-LLM Assistant 실습을 소개했습니다. Flask와 Amazon Bedrock으로 라우팅 구조와 웹 UI를 구성해 비용과 정확도 개선 가능성을 보여주었습니다.

QA 리소스 문의를 자동화하기 위해 Q-pid라는 AI 비서를 구축했습니다.\nJira 데이터와 프롬프트 엔지니어링으로 예측 가능한 답변과 운영 효율을 높였습니다.


서버가 UI를 주도하는 SDUI로 KREAM의 배포 병목을 줄이고 실험 속도를 높인 사례를 소개했습니다. 또한 Builder 레이어를 더한 4-Layer Architecture와 내부 Generator로 유지보수성과 검증 효율을 개선했습니다.

사내 노션과 슬랙 지식을 연결하는 RAG 기반 챗봇 라포위키 개발 과정을 소개했습니다. 내부 용어집, 메타데이터, 청크 임베딩으로 검색 정확도와 최신성을 높였습니다.

무신사 QA 팀이 엑셀 기반 리포트와 수기 입력의 비효율을 줄이기 위해 QA Admin 도구를 구축했습니다.\nPython과 Flask로 데이터를 구조화해 리포트 자동화, 리뷰 분석, XPath 관리를 통합했습니다.


온라인 DDL 테스트를 자동화해 알고리즘 선정과 사전 검증 과정을 표준화했습니다. 클론 생성, 비동기 실행, 히스토리 저장, Slack 알림으로 운영 효율과 안정성을 높였습니다.