AWS에서 AI 에이전트 실행 환경 격리하기 4부: Amazon Bedrock AgentCore Runtime, 관리형 샌드박스의 동작과 선택 기준

문제 상황

• AI 에이전트와 생성 코드의 실행 격리, 세션 수명 주기, 유휴 비용을 EKS에서 직접 운영해야 하는 부담
• microVM 격리와 관리형 세션 운영을 제공하는 Amazon Bedrock AgentCore Runtime의 실제 동작 및 EKS 대비 기준 필요

구조와 흐름

• Runtime 에이전트와 Code Interpreter 생성 코드에 세션별 전용 microVM 할당
• PUBLIC 또는 VPC 네트워크 모드와 VM 내부 IMDSv2 기반 실행 역할 자격 증명 제공
• 유휴 타임아웃, 최대 수명, 자동 확장, 세션 스토리지를 서비스가 관리하고 애플리케이션은 세션 ID 매핑과 동시성 처리 담당

트레이드오프

• Runtime 새 세션 약 1.4초, 재호출 약 70ms로 Warm Pool보다 느리지만 별도 용량 준비 불필요
• gVisor 대비 시스템 콜 비용은 낮지만, 생성 코드에 실행 역할 자격 증명이 전달되는 권한 경계 주의
• V2 스냅샷으로 무거운 초기화 비용 절감 가능하지만 초기화 시 생성한 난수·토큰·ID 복제 위험과 높은 메모리 비용

성능/운영 포인트

• 긴 작업은 HealthyBusy 응답을 위한 비동기 작업 등록과 요청 ID 기반 중복 실행 방지 필요
• 대기 중 CPU 비용은 낮지만 메모리 비용 지속 발생하므로 유휴 타임아웃 단축 및 완료 세션 즉시 종료 권장
• 대규모 빌드·GPU·장기 작업은 Instances 컴퓨팅 유형 또는 EKS로 분리하고, 세션 생성 몰림에는 재시도와 할당량 조정 필요