AI 서비스의 안정성과 비용 최적화 둘다 잡은 Runway Autoscaling 개발 여정
Runway 추론 서비스의 Autoscaling 과정에 자원 한도 검증을 추가해 멀티테넌트 환경의 비용과 안정성을 함께 개선했습니다. Kubernetes Admission Webhook과 Runway API를 연동해 KPA와 HPA 모두에 일관된 정책을 적용했습니다.
#Kubernetes#Autoscaling#Admission Webhook
3400
태그
autoscaling 기술 블로그 글
autoscaling 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.
전체 2개최신 2개 표시
관련 태그
최신 게시글
2개 표시
