AI
사내 AI 챗봇 서비스 구축하기
두줄요약
사내 AI 챗봇 서비스를 Next.js 템플릿 기반으로 구축하고, Azure OpenAI와 GraphQL 도구 연동을 확장한 과정을 공유했습니다. 배포와 필터링, 컨텍스트 초과 같은 문제를 해결하며 내부 구성원용 서비스로 운영한 사례입니다.
핵심 내용
- 사내 구성원용 AI 챗봇 서비스 구축 경험과 트러블슈팅 정리
- Next.js AI Chatbot 템플릿을 기반으로 인증, Azure OpenAI 연동, GraphQL 조회·요청, 파일 처리, 웹 접근, 코드 실행 기능을 추가
- 배포 환경, 콘텐츠 필터링, 컨텍스트 초과, Chrome 설치, SSE 지원 여부 등 실무 이슈와 개선 과정을 공유
- 출시 후 사용 현황과 비용 절감 효과, 추가 기능 확장 방향을 함께 정리
적용해볼 점
- 템플릿을 출발점으로 삼아 빠르게 내부 서비스로 확장하는 접근
- tool 호출, 토큰 절약, 안전한 코드 실행, 파일 텍스트화 같은 LLM 실무 기능 적용
- 배포 환경 제약과 API 특성을 초기에 확인하며 운영 안정성을 확보하는 방식