새로운 루다를 지탱하는 모델 서빙 아키텍처 — 2편: ArgoCD와 모델 서빙
ArgoCD와 Helm Chart로 모델 서빙 인프라 및 A/B 테스트 환경을 배포하는 구조를 소개했습니다.\n파이프라인 추상화, SyncWave 종료 순서, 블루/그린 배포와 RPS 기반 확장 전략을 설명합니다.
#Argo#Kubernetes#Helm
000
Argo 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.
2개 표시
ArgoCD와 Helm Chart로 모델 서빙 인프라 및 A/B 테스트 환경을 배포하는 구조를 소개했습니다.\n파이프라인 추상화, SyncWave 종료 순서, 블루/그린 배포와 RPS 기반 확장 전략을 설명합니다.
모델 추론 구조까지 비교할 수 있도록 서비스 백엔드와 파이프라인을 분리했습니다. ConfigMap과 프록시 라우팅으로 A/B 테스트를 빠르게 제어했습니다.