AI
삼성 계정 AIOps: AgentCore기반 멀티 에이전트 운영 자동화 여정
두줄요약
삼성계정 운영팀이 AgentCore 기반 멀티 에이전트 AIOps를 3계층 구조로 설계한 과정을 소개했습니다. 분석 자동화부터 관측, 평가, 가드레일까지 운영 가능한 자율화 토대를 구축했습니다.
문제 상황
- 삼성계정의 멀티 리전·다계정·다마이크로서비스 환경에서 장애 분석, 변경 추적, 보안 점검, 비용 관리가 급격히 복잡해짐
- 단일 에이전트나 수동 대응만으로는 즉각적인 원인 분석과 조치를 일관되게 수행하기 어려움
- LLM 에이전트는 비결정적이라 운영 환경에서 완전 자율 실행에 신중한 접근이 필요함
구조와 흐름
- Orchestrator → 도메인 Supervisor → Sub-agent의 3계층 멀티 에이전트 구조로 책임을 분리
- Slack과 웹 콘솔의 두 입구를 하나의 Orchestrator로 수렴시켜 동일한 라우팅·가드레일·세션 정책 적용
- 공통 모듈과 레지스트리로 모델 호출, 계정 접근, 에이전트 호출 방식을 표준화
성능/운영 포인트
- AgentCore Runtime으로 관리형 실행 환경과 세션 격리, 장시간 실행을 확보
- AgentCore Observability로 trace ID 기반 호출 추적과 응답시간·토큰·성공률을 수집
- AgentCore Evaluation과 Guardrails로 품질 회귀 감지와 PII 차단을 입구에서 일괄 처리
적용해볼 점
- 분석은 멀티 에이전트에 맡기고 실행은 승인 게이트를 두는 단계적 자율화가 적합
- Blackboard, Skill, Memory를 활용해 작업 절차와 운영 지식을 축적·고도화 가능
- 에이전트 권한을 직접 늘리기보다 안전한 실행 주체를 확장하는 방식이 유효