AI
증류 공격에 대한 방어 강화
Strengthening our defenses against distillation attacks
두줄요약
Anthropic은 Claude의 불법 증류 공격을 막기 위한 다층 방어 체계를 공개했습니다. 초기 증거로 증류 데이터 수집량이 약 90~99% 줄었다고 밝혔습니다.
핵심 발표
- Claude 대상 불법 증류 공격의 효과를 낮추기 위한 신규 방어 기법 공개
- 초기 증거 기준 증류자가 수집하는 데이터량 약 90~99% 감소
주요 변화
- 추론 접근 경로 통제, 추출 시도 차단·패치, 반복 시도 억제의 3단계 방어
- preserved thinking으로 신규 API 계정의 이전 컨텍스트 편집 제한
- 추론 추출 탐지용 2단계 분류기와 지속적 레드팀·패치 체계 운용
개발자 영향
- 합법 사용자 영향 최소화를 목표로 한 방어 강화와 일부 통합 변경 필요성
- 반복 추론 추출 계정의 강화된 사용 제한 및 계정 차단
- 안전장치 차단 요청에도 과금 재개에 따른 우회 시도 비용 증가
사용 방법·가용성
- Claude Sonnet 5.5, Claude Opus 5·5.5, Claude Fable 5·5.1에 2단계 분류기 적용
- 2026년 8월 31일 이후 생성된 API 계정에 preserved thinking 적용
- 9월 24일부터 오탐률 0.1% 미만 영역의 차단 요청 과금 재개
