봇이 사는 집 — 사내 AI 봇 인프라 이야기
분산된 사내 AI 봇을 EC2 기반 컨테이너 인프라로 통합하고 배포·보안·관측 체계를 구성했습니다. Claude Code의 OpenTelemetry 지표를 Prometheus로 이전하며 집계 오차를 해결했습니다.
OpenTelemetry 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.
최근 30일 4개 · 많이 쓴 회사 AWS·인포그랩·여기어때
20개 표시
분산된 사내 AI 봇을 EC2 기반 컨테이너 인프라로 통합하고 배포·보안·관측 체계를 구성했습니다. Claude Code의 OpenTelemetry 지표를 Prometheus로 이전하며 집계 오차를 해결했습니다.
GitLab과 Claude Code로 정책·통제·기록·검토 기반의 에이전트 거버넌스 구축 방법을 설명했습니다. glab 세션 기록, 보호 브랜치와 MR 승인 규칙을 활용한 변경 통제 실습을 다뤘습니다.

게임듀오는 EC2 기반 ClickStack과 S3·SQS 버퍼로 관측 비용을 절반 이하로 줄였습니다. 로그 보존과 분산 트레이싱 범위를 확대하면서 유실 감시와 운영 자동화도 구축했습니다.
n8n이 자동화 생애주기 전반에서 신뢰성을 높이기 위한 제품 방향을 공개했습니다. 에이전트 역할 분리, 평가, 관측, 최소 권한 관리 원칙을 정리했습니다.

AI 에이전트 토큰 비용을 여섯 항목 방정식과 계층형 지표로 측정하는 방법을 정리했습니다. Amazon Bedrock, Claude Code, Codex 설정으로 모델·컨텍스트·요청 수를 줄이는 방안을 제시합니다.

대화형 데이터 분석 에이전트를 단일 에이전트와 결정론 도구 중심으로 재설계했습니다. 실행 레인 분리, 이벤트 알림, 표준 관측성으로 프로덕션 운영성을 높였습니다.

전시 서비스의 장애 대응 흐름에 맞춰 OpenTelemetry·Grafana 기반 관측 가능성 대시보드를 구축했습니다. 기존 파이프라인을 활용하고 AI 에이전트로 반복 작업을 줄이며 팀 단위 개선을 확장했습니다.
동기 stdout 로깅이 커넥션 풀 고갈과 요청 실패로 이어진 원인을 분석했습니다. caller에서 추적 ID를 캡처해 비동기 로깅과 관측성을 함께 유지했습니다.
OpenTelemetry와 ClickHouse로 APM 스캐터 차트를 만들고 Grafana 커스텀 패널로 10만 점 산점도를 그린 사례를 다뤘습니다. 구현 후 드러난 함정 3가지와 대용량 시각화 시 점검 포인트를 정리했습니다.
OpenTelemetry로 APM 데이터를 수집하고 ClickHouse에 저장해 스캐터 차트를 만드는 과정을 소개했습니다. 1편에서는 수집과 저장 단계에 초점을 맞췄습니다.
Envoy AI Gateway로 사내 LLM 호출을 중앙화하고 모델 등급 라우팅과 사용량 추적을 구축했습니다. GitOps·관측성 기반 운영으로 모델 교체를 단순화하고 LLM 비용을 약 78% 절감했습니다.

ZEP의 교육용 퀴즈 생성 아키텍처를 LangGraph와 Amazon Bedrock AgentCore Runtime 중심으로 설명했습니다. 하나의 그래프를 실시간 서빙과 배치 생성에 재사용하고 관측 체계까지 분리해 운영하는 방식입니다.

Cloud Native 운영에서는 모니터링만으로 원인을 찾기 어려워 Observability와 데이터 연결이 중요합니다. kt cloud는 AI가 활용할 수 있는 운영 데이터와 접근 통제 구조를 함께 설계했습니다.
Amazon CloudWatch의 네이티브 OpenTelemetry 지표 수집과 PromQL 지원을 소개했습니다. EKS, Grafana, 애플리케이션 지표를 하나의 파이프라인과 쿼리 언어로 통합하는 방법을 설명했습니다.

AI 에이전트의 조용한 실패를 잡기 위한 에이전트 옵저버빌리티 개념과 APM·LLM 옵저버빌리티와의 차이를 정리했습니다. Langfuse와 Gemini로 PR 리뷰 에이전트를 추적·평가하는 실습과 운영 시 유의사항도 다뤘습니다.

Running Codex safely at OpenAI
OpenAI는 Codex에 샌드박싱, 승인 정책, 네트워크 제어를 적용해 작업 범위를 관리했습니다. OpenTelemetry 기반 로그로 에이전트의 의도와 도구 활동을 감사·보안 분석에 활용합니다.

MSA 로컬 개발의 병목을 줄이기 위해 Rewrite Host로 수정 중인 서비스만 노트북 인스턴스로 교체하는 방식을 소개했습니다. 디버그 헤더와 응답 피드백으로 부분 검증과 라우팅 전환을 단순화했습니다.
![[코드가 환경을 모르는 구조 5/7] Rewrite Host — 공간 축을 교체한다](https://flex.team/blog/og/main.jpg)
Kubernetes Pod의 Request와 Limit을 실제 사용 패턴에 맞게 조정하는 Right-Sizing 기준 수립 과정을 다뤘습니다. P95, 버퍼율, 컴포넌트 특성, Throttling 지표를 함께 고려하는 방법을 정리했습니다.
Hexagonal Architecture 기반의 일관된 구조가 멀티클라우드, AI 백엔드, Observability 전환의 기반이 되었다고 설명했습니다. 표준 인터페이스와 경계 분리가 이후 변경 비용을 크게 낮춘 사례를 다루었습니다.
![[미래를 담아낸 뼈대 4/7] 기반이 열어준 다음 문제](https://flex.team/blog/og/main.jpg)
Hexagonal Architecture와 표준화된 인프라에 투자해 멀티클라우드, AI 백엔드, Observability 전환 비용을 낮춘 사례를 다뤘습니다. 벤더가 바뀌어도 코드와 운영을 크게 흔들지 않는 구조의 효과를 설명했습니다.
![[미래를 담아낸 뼈대 4/7] 기반이 열어준 다음 문제](https://cdn.sanity.io/images/v31psllp/production/1ef0397273a55d5bcb29d4af10cb45caabdb533f-1684x1030.png)