태그

autoscaling 기술 블로그 글

autoscaling 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.

전체 4개최신 4개 표시

AI 서비스의 안정성과 비용 최적화 둘다 잡은 Runway Autoscaling 개발 여정

Runway 추론 서비스의 Autoscaling 과정에 자원 한도 검증을 추가해 멀티테넌트 환경의 비용과 안정성을 함께 개선했습니다. Kubernetes Admission Webhook과 Runway API를 연동해 KPA와 HPA 모두에 일관된 정책을 적용했습니다.

2024년 7월 11일

Aurora MySQL의 밸런싱 편중과 RDS Proxy의 운영·비용 제약을 해결하기 위해 MaxScale 전환을 검토하고 적용했습니다. Autoscaling과 failover까지 고려한 자동화 구성으로 CPU와 connection 분산을 안정화했습니다.

2022년 11월 16일

Kubernetes HPA에서 Prometheus와 prometheus-adapter로 RPS Custom Metric을 노출하는 방법을 설명했습니다. Istio 메트릭 기반 RPS와 CPU 기준을 함께 설정해 pod 수를 확장합니다.

2015년 11월 30일

ELB의 장기 대량 TCP 연결과 프로토콜 복잡성 문제를 해결하기 위해 프레젠터 게이트웨이를 구축했습니다. TCP 멀티플렉싱, C++ 연결 처리, Route53 가중치 라우팅으로 성능과 운영성을 확보했습니다.