국내 IT 기업 기술 블로그 최신 글

필터 1
봇이 사는 집 — 사내 AI 봇 인프라 이야기
펫프렌즈
데브옵스

봇이 사는 집 — 사내 AI 봇 인프라 이야기

분산된 사내 AI 봇을 EC2 기반 컨테이너 인프라로 통합하고 배포·보안·관측 체계를 구성했습니다. Claude Code의 OpenTelemetry 지표를 Prometheus로 이전하며 집계 오차를 해결했습니다.

#Claude Code#EC2
2600
ParallelCluster 잘 쓰고 있는데, 왜 AWS PCS인가? (2부) — 워크로드별 적용과 전환 실전 가이드
AWS
데브옵스

ParallelCluster 잘 쓰고 있는데, 왜 AWS PCS인가? (2부) — 워크로드별 적용과 전환 실전 가이드

AWS PCS의 관리형 Slurm 운영과 멀티 큐 자원 공유가 CFD/CAE·분산 학습에 주는 변화를 설명했습니다. ParallelCluster 환경은 스토리지를 공유하는 blue/green 방식으로 안전하게 전환할 수 있습니다.

#AWS PCS#Slurm
300
빠른 기기가 왜 기다려야 하지?
무신사
데브옵스

빠른 기기가 왜 기다려야 하지?

공유 Queue와 중앙 디바이스 설정으로 실기기 BVT의 고정 배정 병목을 해소했습니다. 대기 시간 최적화와 모니터링 개선으로 전체 실행 시간과 운영 부담을 줄였습니다.

#자동화#Appium
3600
ParallelCluster 잘 쓰고 있는데, 왜 AWS PCS인가(1부) — 관리형 Slurm의 가치와 비용 구조
AWS
데브옵스

ParallelCluster 잘 쓰고 있는데, 왜 AWS PCS인가(1부) — 관리형 Slurm의 가치와 비용 구조

AWS PCS는 Slurm 컨트롤러 운영을 AWS에 맡겨 HPC 클러스터의 패치·장애 대응 부담을 줄입니다. 추가 관리 요금은 가동률, 커스터마이징 요구, 중단 손실을 포함한 TCO로 판단해야 합니다.

#AWS PCS#ParallelCluster
600
Amazon ECS 실행 구조와 선택 기준 – 1부: 컴퓨트와 실행 형태
AWS
데브옵스

Amazon ECS 실행 구조와 선택 기준 – 1부: 컴퓨트와 실행 형태

Amazon ECS에서 launch type과 capacity provider의 역할을 분리해 이해하고, 신규 서비스는 capacity provider 기반으로 설계하는 기준을 정리했습니다. 또한 Fargate, EC2, Managed Instances와 실행 형태별 선택 포인트를 비교했습니다.

#Amazon ECS#Fargate
2300
Kafka Streams를 k8s로 옮기며 얻은 스케일링 설계: 비용 80% 절감까지
데브시스터즈
데브옵스

Kafka Streams를 k8s로 옮기며 얻은 스케일링 설계: 비용 80% 절감까지

EC2 기반 Kafka Streams를 k8s와 KEDA로 옮겨 consumer lag 중심 스케일링을 설계했습니다. 그 결과 트래픽에 맞는 운영과 80% 이상 비용 절감을 달성했습니다.

#Kafka Streams#Kubernetes
2600
EKS 컨테이너 메모리 스파이크 추적기
여기어때
데브옵스

EKS 컨테이너 메모리 스파이크 추적기

EC2에서 EKS로 옮긴 뒤 컨테이너 메모리가 주기적으로 급증하는 현상을 추적했습니다. 원인은 로그 gzip 압축과 페이지 캐시였습니다.

#EKS#EC2
5300
쿠팡 파트너스

광고

개발자를 위한 서적을 확인해 보세요

이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.

#개발서적#프로그래밍
분산 학습을 위한 AWS 컴퓨트 선택 가이드 (2편: 초대규모 스케일링과 인스턴스 확보)
AWS
데브옵스

분산 학습을 위한 AWS 컴퓨트 선택 가이드 (2편: 초대규모 스케일링과 인스턴스 확보)

AWS 분산 학습용 컴퓨트를 초대규모로 확장하는 울트라클러스터와 울트라서버를 설명했습니다. 또한 ODCR과 Capacity Block으로 GPU 용량을 미리 확보하는 전략을 비교했습니다.

#AWS#EC2
1800
Part 3: Kiro로 RDS/Aurora 장애 분석 자동화하기 — 매일 자동으로 보고서 받기
AWS
데브옵스

Part 3: Kiro로 RDS/Aurora 장애 분석 자동화하기 — 매일 자동으로 보고서 받기

EC2와 cron으로 Kiro 기반 RDS/Aurora 점검 보고서 자동화 구성을 설명했습니다. S3 Presigned URL과 SES, Slack 연동으로 매일 링크를 받아보는 방법을 다뤘습니다.

#AWS#Amazon RDS
4300
Amazon EC2 G5/G6 인스턴스에서 GPU Tensor Parallelism으로 비용 효과적으로 LLM 서빙하기
AWS
AI

Amazon EC2 G5/G6 인스턴스에서 GPU Tensor Parallelism으로 비용 효과적으로 LLM 서빙하기

vLLM Tensor Parallelism으로 G5/G6의 24GB GPU 여러 장에 LLM을 분산 서빙하는 방법을 설명했습니다. 벤치마크에서 TP=4는 응답 속도와 처리량을 크게 개선했으며, 비용 효율적인 대안으로 제시했습니다.

#AWS#EC2
3200
성공적인 게임 출시를 위한 Amazon GameLift Servers 사전 제작 단계 가이드 – Part1
AWS
데브옵스

성공적인 게임 출시를 위한 Amazon GameLift Servers 사전 제작 단계 가이드 – Part1

Amazon GameLift Servers를 활용한 멀티플레이어 게임 출시 사전 준비 항목을 정리했습니다. 테스트, 세션 관리, 큐 배치, 모니터링 설정의 핵심 포인트를 다뤘습니다.

#Amazon GameLift Servers#AWS
5900
분산 트레이닝 관점에서의 AWS 인터커넥트 기술 소개 – AWS의 인터커넥트 기반 기술, ENI 소개
AWS
데브옵스

분산 트레이닝 관점에서의 AWS 인터커넥트 기술 소개 – AWS의 인터커넥트 기반 기술, ENI 소개

AWS EC2의 ENI와 네트워크 카드 구조, EFA 할당 규칙을 설명했습니다. p5와 p6 인스턴스의 분산 트레이닝용 네트워크 구성과 운영 포인트를 정리했습니다.

#AWS#EFA
5100
여기어때 Secret 플랫폼 구축기 Part 1: 왜 시크릿 저장소를 만들었는가
여기어때
데브옵스

여기어때 Secret 플랫폼 구축기 Part 1: 왜 시크릿 저장소를 만들었는가

민감 정보가 서비스별로 흩어져 있던 한계를 해결하기 위해 중앙 관리 플랫폼 Secrethub를 구축했습니다. 접근 통제와 감사, 권한 일원화, 개발 편의성을 위해 외부 솔루션 대신 자체 개발을 선택했습니다.

#AWS Secrets Manager#HashiCorp Vault
10900
포스타입 서버가 변화무쌍한 트래픽에 대응하는 방법
포스타입
데브옵스

포스타입 서버가 변화무쌍한 트래픽에 대응하는 방법

포스타입은 AWS 오토 스케일링으로 급격한 트래픽 변화에 대응했습니다. 단계 조정 정책, 웜 풀, 최소 용량 조정으로 플래핑과 장애를 줄였습니다.

#AWS#EC2
12800