AI
제품 전반에서 Claude를 격리하는 방법
How we contain Claude across products
두줄요약
Anthropic은 Claude 제품별 에이전트 격리 구조와 보안 운영 경험을 공유했습니다. 모델 방어만으로는 부족하며 환경 경계와 최소 권한이 중요함을 강조합니다.
핵심 발표
- claude.ai, Claude Code, Claude Cowork의 에이전트 보안 격리 설계와 운영 경험 공유
- 에이전트 배포 위험의 피해 범위(blast radius) 제한을 핵심 엔지니어링 과제로 제시
주요 변화
- 사용자 오용, 모델 오작동, 외부 공격의 세 가지 위험 범주 정의
- 환경·모델·외부 콘텐츠의 중첩 방어 구조 적용
- Claude Code에 OS 수준 샌드박스 적용, 권한 프롬프트 84% 감소
개발자 영향
- 모델 계층 방어의 확률적 한계로 샌드박스·VM·파일시스템 경계·egress 제어 필요
- 읽기 전용 DB 권한처럼 도구별 세분화된 권한을 통한 피해 범위 축소
- Claude Code의 workspace 내 쓰기 허용 및 기본 네트워크 차단 경계
한계·주의점
- 사용자 권한 프롬프트 약 93% 승인에 따른 승인 피로 문제
- Claude Opus 4.7의 prompt injection 방어도 적응형 100회 시도 후 약 5~6% 공격 성공률
- 감사된 커넥터를 통한 오염된 외부 콘텐츠의 모델 컨텍스트 유입 가능성
