국내 IT 기업 기술 블로그 최신 글

필터 1
AWS에서 AI 에이전트 실행 환경 격리하기 3부: 에이블리의 Amazon EKS 기반 Agent Sandbox 운영 사례
AWS
데브옵스

AWS에서 AI 에이전트 실행 환경 격리하기 3부: 에이블리의 Amazon EKS 기반 Agent Sandbox 운영 사례

에이블리의 EKS 기반 Agent Sandbox로 프로젝트 작업환경을 중단·재개·만료하는 방식을 소개했습니다. Karpenter, Kyverno, S3를 연결해 유휴 자원 회수와 작업물 보존을 함께 운영했습니다.

#Kubernetes#EKS
1200
쿠버네티스로 여는 AI 추론 인프라
데보션
데브옵스

쿠버네티스로 여는 AI 추론 인프라

쿠버네티스와 AWS EKS를 활용해 LLM 추론 인프라를 안정적으로 운영하는 방법을 설명했습니다. 특히 KV 캐시를 고려한 라우팅과 prefill/decode 분리를 통해 성능과 비용을 함께 개선하는 흐름을 다뤘습니다.

#Kubernetes#LLM
3400
Amazon EKS에서 vLLM으로 Gemma 4 서빙 최적화하기 [1부: 콜드 스타트 최적화]
AWS
데브옵스

Amazon EKS에서 vLLM으로 Gemma 4 서빙 최적화하기 [1부: 콜드 스타트 최적화]

Amazon EKS에서 vLLM으로 Gemma 4 31B 서빙의 콜드 스타트를 단계별로 최적화한 사례입니다. S3 직결 로더, 캐시 영속화, sleep mode로 시작 시간과 GPU 비용을 줄였습니다.

#Amazon EKS#LLM
2600
EKS 클러스터 11개를 서비스 중단 없이 버전 통일하기
아임웹
데브옵스

EKS 클러스터 11개를 서비스 중단 없이 버전 통일하기

EKS 11개 클러스터를 서비스 중단 없이 v1.35로 통일한 업그레이드 사례입니다. AI 에이전트를 오퍼레이터로 써 8일 만에 PR 109건을 처리하고 안전하게 전환했습니다.

#EKS#Kubernetes
2200
EKS 4개와 클러스터 11개를 서비스 중단 없이 버전 통일하기
아임웹
데브옵스

EKS 4개와 클러스터 11개를 서비스 중단 없이 버전 통일하기

EKS 11개 클러스터를 단계적 절차와 안전판으로 8일 만에 v1.35로 통일했습니다. AI 에이전트와 사람의 승인 분리를 통해 서비스 중단 없이 업그레이드를 마쳤습니다.

#EKS#Kubernetes
13700
Istio 3-2편: Partially Enrolled Pod와 Untaint Controller
채널톡
데브옵스

Istio 3-2편: Partially Enrolled Pod와 Untaint Controller

Ambient mode에서 Pod은 Ready인데 mesh 트래픽이 실패하는 partially enrolled 문제를 다뤘습니다. istio-cni 준비 전에는 일반 Pod이 스케줄되지 않도록 startup taint와 untaint-controller를 활용했습니다.

#Istio#Kubernetes
2400
Our Journey to Autoscaling EKS Node Groups for Job Workloads
당근마켓
데브옵스

Our Journey to Autoscaling EKS Node Groups for Job Workloads

Job 워크로드는 중단에 취약해 EKS 노드그룹 오토스케일링이 어려웠습니다. 이를 해결하기 위해 PodAffinity로 bin-packing을 유도하고, 애노테이션으로 축소 중 종료를 막았습니다.

#AWS#EKS
3900
쿠팡 파트너스

광고

개발자를 위한 서적을 확인해 보세요

이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.

#개발서적#프로그래밍
Config의 Amazon EKS Spot 기반 대규모 RFM 데이터 파이프라인 구축
AWS
데브옵스

Config의 Amazon EKS Spot 기반 대규모 RFM 데이터 파이프라인 구축

EKS와 Spot, RabbitMQ, KEDA, Karpenter를 결합해 대규모 데이터 전처리 파이프라인을 구축했습니다. 단일 큐 병목을 없애 비용을 크게 줄이고 처리 시간도 수 일에서 수 시간으로 단축했습니다.

#Amazon EKS#Spot Instances
4800
Amazon SageMaker HyperPod의 오토스케일링 알아보기
AWS
데브옵스

Amazon SageMaker HyperPod의 오토스케일링 알아보기

SageMaker HyperPod에 Karpenter 기반 관리형 노드 오토스케일링이 추가되었습니다. KEDA와 함께 사용해 추론·학습 워크로드를 메트릭 기반으로 탄력적으로 확장할 수 있습니다.

#AWS#Kubernetes
3600
마이다스인의 플랫폼 혁신 여정, Part1: Amazon EKS 전환
AWS
데브옵스

마이다스인의 플랫폼 혁신 여정, Part1: Amazon EKS 전환

Amazon ECS 기반 인프라를 Amazon EKS로 전환해 운영 유연성을 높이고 GitOps 체계를 구축했습니다. Binpacking과 Spot 전략으로 자원 활용률과 비용 효율도 크게 개선했습니다.

#AWS#EKS
5900
Amazon EKS Auto Mode의 내부 동작 방식
AWS
데브옵스

Amazon EKS Auto Mode의 내부 동작 방식

Amazon EKS Auto Mode의 내부 구성과 동작 방식을 소개했습니다. 데이터 플레인 운영, 보안 패치, 노드 최적화를 AWS가 자동 처리하는 흐름을 설명했습니다.

#AWS#Kubernetes
3800
EKS Bottlerocket AMI에서 DCGM 오류로 GPU 노드 반복 교체 문제 해결기
인프런
데브옵스

EKS Bottlerocket AMI에서 DCGM 오류로 GPU 노드 반복 교체 문제 해결기

Bottlerocket AMI의 DCGM 라이브러리 누락으로 GPU 노드가 반복 교체된 원인을 분석했습니다. Karpenter Node Auto-Repair를 비활성화해 교체 루프를 해소했습니다.

#EKS#Bottlerocket
300
EKS Bottlerocket에서 이미지 캐싱으로 Pull 시간 줄이기
인프런
데브옵스

EKS Bottlerocket에서 이미지 캐싱으로 Pull 시간 줄이기

Bottlerocket 컨테이너 데이터 볼륨의 EBS 스냅샷으로 대용량 이미지 pull 시간을 단축했습니다. 스냅샷 lazy loading 지연은 gp3 Throughput 조정으로 비용 효율적으로 완화했습니다.

#EKS#Bottlerocket
100
Karpenter 트러블슈팅 — 비용과 안정성 두마리 토끼 잡기
당근마켓
데브옵스

Karpenter 트러블슈팅 — 비용과 안정성 두마리 토끼 잡기

Karpenter 도입 과정에서 마주한 스케줄링 정합성, AMI 운영, Node Churn 문제를 정리했습니다. 적절한 budget과 리소스 보정으로 비용을 줄이고 안정성을 개선했습니다.

#Kubernetes#Karpenter
15600