Config의 Amazon EKS Spot 기반 대규모 RFM 데이터 파이프라인 구축
EKS와 Spot, RabbitMQ, KEDA, Karpenter를 결합해 대규모 데이터 전처리 파이프라인을 구축했습니다. 단일 큐 병목을 없애 비용을 크게 줄이고 처리 시간도 수 일에서 수 시간으로 단축했습니다.
#Amazon EKS#Spot Instances
34005분
필터 1
Amazon SageMaker HyperPod의 오토스케일링 알아보기
SageMaker HyperPod에 Karpenter 기반 관리형 노드 오토스케일링이 추가되었습니다. KEDA와 함께 사용해 추론·학습 워크로드를 메트릭 기반으로 탄력적으로 확장할 수 있습니다.
#AWS#Kubernetes
30005분
100만 TPS 로그 시스템, KEDA를 이용한 오토스케일링 적용기
100만 TPS 로그 시스템, KEDA를 이용한 오토스케일링 적용기
KEDA로 Loki 로그 시스템의 오토스케일링을 재구성해 비용과 안정성을 함께 개선했습니다. CPU·메모리뿐 아니라 Fluentd 버퍼 메트릭을 활용하고 HPA 제약으로 과대 확장도 줄였습니다.
#KEDA#HPA
29005분
Kubernetes GPU 클러스터에서 AI 서비스 오토스케일링하기
Kubernetes GPU 클러스터에서 AI 서비스 오토스케일링하기
대규모 Kubernetes GPU 클러스터에서 AI 서비스 오토스케일링을 적용한 사례를 소개했습니다. 기본 HPA보다 고도화된 GPU orchestration과 KEDA 활용 배경을 공유했습니다.
#Kubernetes#오토스케일링
90005분