
봇이 사는 집 — 사내 AI 봇 인프라 이야기
분산된 사내 AI 봇을 EC2 기반 컨테이너 인프라로 통합하고 배포·보안·관측 체계를 구성했습니다. Claude Code의 OpenTelemetry 지표를 Prometheus로 이전하며 집계 오차를 해결했습니다.

분산된 사내 AI 봇을 EC2 기반 컨테이너 인프라로 통합하고 배포·보안·관측 체계를 구성했습니다. Claude Code의 OpenTelemetry 지표를 Prometheus로 이전하며 집계 오차를 해결했습니다.


GitLab과 Claude Code로 정책·통제·기록·검토 기반의 에이전트 거버넌스 구축 방법을 설명했습니다. glab 세션 기록, 보호 브랜치와 MR 승인 규칙을 활용한 변경 통제 실습을 다뤘습니다.

게임듀오는 EC2 기반 ClickStack과 S3·SQS 버퍼로 관측 비용을 절반 이하로 줄였습니다. 로그 보존과 분산 트레이싱 범위를 확대하면서 유실 감시와 운영 자동화도 구축했습니다.


n8n이 자동화 생애주기 전반에서 신뢰성을 높이기 위한 제품 방향을 공개했습니다. 에이전트 역할 분리, 평가, 관측, 최소 권한 관리 원칙을 정리했습니다.


AI 에이전트 토큰 비용을 여섯 항목 방정식과 계층형 지표로 측정하는 방법을 정리했습니다. Amazon Bedrock, Claude Code, Codex 설정으로 모델·컨텍스트·요청 수를 줄이는 방안을 제시합니다.


대화형 데이터 분석 에이전트를 단일 에이전트와 결정론 도구 중심으로 재설계했습니다. 실행 레인 분리, 이벤트 알림, 표준 관측성으로 프로덕션 운영성을 높였습니다.

전시 서비스의 장애 대응 흐름에 맞춰 OpenTelemetry·Grafana 기반 관측 가능성 대시보드를 구축했습니다. 기존 파이프라인을 활용하고 AI 에이전트로 반복 작업을 줄이며 팀 단위 개선을 확장했습니다.
이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
동기 stdout 로깅이 커넥션 풀 고갈과 요청 실패로 이어진 원인을 분석했습니다. caller에서 추적 ID를 캡처해 비동기 로깅과 관측성을 함께 유지했습니다.

OpenTelemetry와 ClickHouse로 APM 스캐터 차트를 만들고 Grafana 커스텀 패널로 10만 점 산점도를 그린 사례를 다뤘습니다. 구현 후 드러난 함정 3가지와 대용량 시각화 시 점검 포인트를 정리했습니다.

OpenTelemetry로 APM 데이터를 수집하고 ClickHouse에 저장해 스캐터 차트를 만드는 과정을 소개했습니다. 1편에서는 수집과 저장 단계에 초점을 맞췄습니다.


Envoy AI Gateway로 사내 LLM 호출을 중앙화하고 모델 등급 라우팅과 사용량 추적을 구축했습니다. GitOps·관측성 기반 운영으로 모델 교체를 단순화하고 LLM 비용을 약 78% 절감했습니다.


ZEP의 교육용 퀴즈 생성 아키텍처를 LangGraph와 Amazon Bedrock AgentCore Runtime 중심으로 설명했습니다. 하나의 그래프를 실시간 서빙과 배치 생성에 재사용하고 관측 체계까지 분리해 운영하는 방식입니다.

Cloud Native 운영에서는 모니터링만으로 원인을 찾기 어려워 Observability와 데이터 연결이 중요합니다. kt cloud는 AI가 활용할 수 있는 운영 데이터와 접근 통제 구조를 함께 설계했습니다.


Amazon CloudWatch의 네이티브 OpenTelemetry 지표 수집과 PromQL 지원을 소개했습니다. EKS, Grafana, 애플리케이션 지표를 하나의 파이프라인과 쿼리 언어로 통합하는 방법을 설명했습니다.