월 150만 유저가 사용하는 LLM Inference 인프라 안정적으로 운영하기
멀티 리전 AKS, Karmada, Istio로 대규모 LLM 추론 인프라를 중앙 관리했습니다.\n스토리지·이미지 배포를 통합해 비용과 운영 리소스를 절감했습니다.
#LLM#Kubernetes#Azure
000
AKS 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.
3개 표시
멀티 리전 AKS, Karmada, Istio로 대규모 LLM 추론 인프라를 중앙 관리했습니다.\n스토리지·이미지 배포를 통합해 비용과 운영 리소스를 절감했습니다.
AKS에 컨테이너 애플리케이션을 배포해 보는 실습형 글입니다. DevOps와 자동화를 결과물 중심으로 익히려는 입문자에게 맞습니다.

Azure DevOps와 AKS를 활용한 배포 관리 구성을 소개했습니다. 프로젝트 생성부터 Docker 이미지 빌드까지의 흐름을 다뤘습니다.
