AI
GS Neotek의 Claude Code on Amazon Bedrock 도입기: LLM Gateway 없는 경량화 사용자 통제 방안
두줄요약
Amazon Bedrock 기반 Claude Code를 LLM Gateway 없이 통제하는 경량 아키텍처를 소개했습니다. 로그 집계와 IAM Deny 정책으로 사용자별 비용 관리와 차단을 구현하는 방법을 정리했습니다.
핵심 내용
- Amazon Bedrock 기반 Claude Code 도입 시, LLM Gateway 없이도 Bedrock 호출 로그를 집계해 사용자별 비용을 계산하고 예산 초과 사용자를 사후 차단하는 경량 아키텍처 소개
- Bedrock Model Invocation Logging, Athena, Lambda, DynamoDB, IAM Deny 정책, EventBridge를 조합해 서버리스로 비용 통제와 접근 제어를 구현하는 방식 정리
- 요청 단위 실시간 차단 대신 수 분 지연의 준실시간 통제를 허용할 때 적합하며, 고정비와 운영 부담을 줄이고 빠르게 도입하는 선택지 제시
적용해볼 점
- 조직의 호출 경로를 bedrock-runtime으로 표준화하고 로그 기반 집계 가능 여부부터 점검
- 사용자별 예산, 차단 정책, 집계 주기 설정을 통해 경량 통제부터 단계적으로 도입