AI
제품 전반에서 Claude의 영향 범위를 제한하는 방법
How we contain Claude across products
두줄요약
Anthropic은 Claude 제품별 격리 구조와 에이전트 보안 운영 경험을 공유했습니다. 모델 방어와 함께 실행 환경·도구 권한 경계가 필요하다고 강조했습니다.
핵심 발표
- claude.ai, Claude Code, Claude Cowork의 에이전트 보안·격리 설계와 운영 중 얻은 교훈 공유
- 에이전트 배포 위험을 실패 가능성과 피해 범위로 구분하고, 접근 경계로 피해 범위 제한 강조
주요 변화
- Claude Code의 턴별 권한 승인 방식에서 승인 피로 확인
- Claude Code auto mode로 더 안전한 승인 자동화
- macOS Seatbelt 및 Linux bubblewrap 기반 OS 수준 샌드박스로 권한 프롬프트 84% 감소
- claude.ai 코드 실행에 세션 단위 임시 gVisor 컨테이너와 격리 인프라 적용
개발자 영향
- 방어 대상의 세 요소: 모델, 실행 환경, 에이전트가 접근하는 외부 콘텐츠
- 모델 계층 방어의 확률적 한계로 샌드박스, VM, 파일시스템 경계, egress 제어 같은 환경 격리 필요
- MCP 서버·서드파티 플러그인·웹 검색 콘텐츠의 프롬프트 인젝션 및 도구 권한 위험 고려 필요
한계·주의점
- 사용자 승인 프롬프트 약 93% 승인과 반복 노출에 따른 감독 품질 저하
- Claude Opus 4.7의 Gray Swan Agent Red Teaming 단일 시도 공격 성공률 약 0.1%, 100회 적응형 시도 후 약 5~6%
- Claude Code auto mode의 실행 전 과도한 행동 탐지율 약 83%, 모델 계층 방어만으로 100% 보호 불가
