Amazon EKS와 NVIDIA FLARE로 구현하는 연합학습 (Federated Learning)
Amazon EKS와 NVIDIA FLARE로 연합학습을 구성하는 방법과 CSE 평가 흐름을 설명했습니다. 세 가지 데이터 시나리오를 통해 전역 모델의 수렴, 일반화, 운영상의 관찰 포인트를 보여주었습니다.
#Amazon EKS#NVIDIA FLARE#연합학습
800
태그
Amazon EKS 기술 블로그 글
Amazon EKS 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.
전체 32개최신 20개 표시
관련 태그
최신 게시글
20개 표시
Amazon EC2 Spot 인스턴스로 디지털 휴먼 렌더링하기
UneeQ는 Amazon EKS와 EC2 스팟 인스턴스를 활용해 디지털 휴먼 렌더링 비용을 줄였습니다. 워크로드 인지형 Group Manager로 다중 리전 GPU 용량을 자동 조정해 가동 시간도 유지했습니다.
#Amazon EC2 Spot Instances#Amazon EKS#AWS Lambda
2400
Amazon EKS에서 vLLM으로 Gemma 4 서빙 최적화하기 [2부: GPU 한 장의 처리량과 지연 SLO]
Amazon EKS의 GPU 한 장에서 Gemma 4 31B를 vLLM으로 서빙할 때의 처리량과 지연 SLO 최적화 결과를 정리했습니다. NVFP4, prefix caching, speculative decoding, priority 스케줄링의 효과와 서빙 풀 분리 기준을 제시했습니다.
#AWS#Amazon EKS#LLM
2700
![Amazon EKS에서 vLLM으로 Gemma 4 서빙 최적화하기 [2부: GPU 한 장의 처리량과 지연 SLO]](https://d2908q01vomqb2.cloudfront.net/2a459380709e2fe4ac2dae5733c73225ff6cfee1/2026/09/09/thumbnail-2-1121x630.png)
Amazon EKS에서 vLLM으로 Gemma 4 서빙 최적화하기 [1부: 콜드 스타트 최적화]
Amazon EKS에서 vLLM으로 Gemma 4 31B 서빙의 콜드 스타트를 단계별로 최적화한 사례입니다. S3 직결 로더, 캐시 영속화, sleep mode로 시작 시간과 GPU 비용을 줄였습니다.
#Amazon EKS#LLM#S3
2200
![Amazon EKS에서 vLLM으로 Gemma 4 서빙 최적화하기 [1부: 콜드 스타트 최적화]](https://d2908q01vomqb2.cloudfront.net/2a459380709e2fe4ac2dae5733c73225ff6cfee1/2026/09/09/thumbnail-1-1119x630.png)
LG CNS의 Agentic AI를 활용한 APQR 시스템 설계 및 자동화 구축 사례
여러 품질 시스템에 흩어진 자료를 근거 데이터로 정리해 APQR 리포트 생성을 자동화했습니다. 조회·계산·해석을 분리하고 Agentic AI 워크플로우로 연결해 처리 시간을 크게 줄였습니다.
#Agentic AI#AWS#Amazon Bedrock
2500
당근이 AWS CloudHSM으로 대규모 서명키 관리 시스템을 구축한 방법– 2부: CloudHSM 아키텍처와 다계층 접근 제어
AWS CloudHSM 기반 서명 시스템을 네트워크·애플리케이션·HSM 내부의 3계층으로 보호하는 구조를 소개했습니다. Istio, Kyverno, mTLS, 키 속성 설정으로 허용된 경로에서만 서명되도록 설계했습니다.
#AWS CloudHSM#AWS KMS#AWS Summit
900
Amazon CloudWatch에서 OpenTelemetry 및 PromQL 지원 소개
Amazon CloudWatch의 네이티브 OpenTelemetry 지표 수집과 PromQL 지원을 소개했습니다. EKS, Grafana, 애플리케이션 지표를 하나의 파이프라인과 쿼리 언어로 통합하는 방법을 설명했습니다.
#Amazon CloudWatch#OpenTelemetry#PromQL
3200
Amazon S3 Files, 도입 전 반드시 확인해야 할 3가지 고려사항
Amazon S3 Files 도입 전에 비용, 성능, 공존 문제를 실측과 문서로 점검하는 방법을 정리했습니다. 소형 파일 과금, 읽기 경계, Mountpoint 충돌을 먼저 확인해야 합니다.
#Amazon S3#AWS Lambda#Amazon EC2
4900
Amazon EKS에서 NVIDIA OSMO 기반 Physical AI 워크플로 운영하기
Amazon EKS에서 NVIDIA OSMO를 활용한 Physical AI 워크플로 운영 레퍼런스 아키텍처를 소개했습니다. GPU 스케줄링, 아티팩트 보존, 모니터링, 보안을 함께 다루는 방법을 설명했습니다.
#Amazon EKS#NVIDIA OSMO#Kubernetes
4100
Amazon EKS에서 운영하는 자체 관리형 Agentic AI 플랫폼 : 인프라 자동화와 관측성으로 운영 안정성 확보하기
EKS Auto Mode와 Bifrost, Langfuse를 조합해 자체 관리형 Agentic AI 플랫폼을 구축하는 방법을 소개했습니다. 멀티모델 라우팅과 2계층 관측성으로 운영 안정성과 비용 최적화를 함께 확보했습니다.
#Amazon EKS#Kubernetes#LLM
8500
Config의 Amazon EKS Spot 기반 대규모 RFM 데이터 파이프라인 구축
EKS와 Spot, RabbitMQ, KEDA, Karpenter를 결합해 대규모 데이터 전처리 파이프라인을 구축했습니다. 단일 큐 병목을 없애 비용을 크게 줄이고 처리 시간도 수 일에서 수 시간으로 단축했습니다.
#Amazon EKS#Spot Instances#RabbitMQ
4600
AI-DLC 기반 웅진씽크빅 북큐레이터 AI 에이전트 구축
웅진씽크빅 북큐레이터 업무를 돕는 AI 에이전트를 AI-DLC로 2일 만에 MVP까지 구축했습니다. Kiro Steering과 AWS 서비스를 활용해 상담 준비, 회의록 정리, 코칭 지원을 자동화했습니다.
#AI 에이전트#AWS#RAG
8400
Amazon EKS에서 Friendli Container로 LLM 추론 최적화하기
Amazon EKS에 Friendli Container Add-on을 적용해 LLM 추론 성능과 비용 효율을 높이는 방법을 소개했습니다. 클러스터 준비부터 배포, 검증, 정리까지의 절차를 단계별로 안내했습니다.
#Amazon EKS#Kubernetes#LLM
17500
Amazon EKS에서 Slinky를 사용하여 Slurm 배포하기
EKS에서 Slinky로 Slurm을 배포하는 방법과 구성 요소를 소개했습니다. Kubernetes와 Slurm을 함께 써서 AI·HPC 워크로드를 효율적으로 운영하는 방안을 정리했습니다.
#Amazon EKS#Slurm#Kubernetes
4800
마이다스인의 플랫폼 혁신 여정, Part2: Kiro를 활용한 IDP 구축
Amazon EKS 전환 이후 누적된 운영 toil을 줄이기 위해 Kiro로 Spec-driven IDP를 구축한 사례를 소개했습니다. 문서화된 요구사항과 체크리스트 기반 자동화로 개발자 셀프서비스와 운영 효율을 높였습니다.
#AWS#Amazon EKS#Kubernetes
6100
달파의 Amazon EKS Hybrid Nodes를 활용한 클러스터 안정성 및 비용 절감 사례
온프레미스 GPU와 AWS EKS를 Hybrid Nodes로 통합해 운영했습니다. 비용은 약 70% 절감하고, 장애 시 페일백까지 확보했습니다.
#Amazon EKS#Kubernetes#AWS
5300
마이다스인의 플랫폼 혁신 여정, Part1: Amazon EKS 전환
기존 ECS 기반 인프라의 확장성과 운영 복잡도 문제를 해결하기 위해 Amazon EKS로 전환했습니다.\nGitOps, Binpacking, Spot 대응 체계를 도입해 비용과 안정성을 함께 개선했습니다.
#Amazon EKS#AWS#GitOps
3100
AWS Gateway API 컨트롤러 소개: Amazon VPC Lattice 기반의 Kubernetes Gateway API 구현
AWS Gateway API 컨트롤러로 Kubernetes Gateway API를 Amazon VPC Lattice에 연결하는 방법을 소개했습니다. EKS에서 Gateway와 HTTPRoute를 적용해 서비스 간 라우팅을 확인하는 실습도 다뤘습니다.
#AWS#Kubernetes#Gateway API
5200
Oracle에서 Amazon Aurora MySQL로: 여기어때의 6주간 데이터베이스 마이그레이션 여정
여기어때컴퍼니의 Oracle to Aurora MySQL 마이그레이션 사례를 소개했습니다. 생성형 AI 기반 OMA로 6주 만에 대규모 전환과 검증을 완료했습니다.
#Oracle#Amazon Aurora MySQL#마이그레이션
12600
Amazon EKS에서 Istio Ambient Mode 구축하여 리소스 효율성 확보하기
EKS에서 Istio Ambient Mode를 이용해 사이드카 오버헤드를 줄이고 리소스 효율성을 높이는 방법을 소개했습니다. Ztunnel과 Waypoint로 보안, 관찰성, 트래픽 제어를 유연하게 구성하는 과정을 설명했습니다.
#Amazon EKS#Istio#Kubernetes
4850
