인프런2026년 9월 9일데브옵스사내 LLM 요청을 한곳으로 모은 AI Gateway 구축기Envoy AI Gateway로 사내 LLM 호출을 중앙화하고 모델 등급 라우팅과 사용량 추적을 구축했습니다. GitOps·관측성 기반 운영으로 모델 교체를 단순화하고 LLM 비용을 약 78% 절감했습니다.#LLM#Envoy AI Gateway000
