AI
증류 공격에 대한 방어 강화
Strengthening our defenses against distillation attacks
두줄요약
Anthropic이 Claude의 불법 증류 공격 방어를 강화해 데이터 수집량을 약 90~99% 줄였다고 밝혔습니다. 추론 접근 제한과 분류기, 반복 시도 차단을 함께 적용했습니다.
핵심 발표
- Claude 대상 불법 증류 공격의 데이터 수집량을 약 90~99% 줄인 새 방어 기법
- 모델의 숨겨진 추론 과정을 대량 추출해 소형 모델에 복제하는 증류 공격 대응
주요 변화
- Claude Fable 5.1·Claude Opus 5.5의 preserved thinking으로 신규 API 계정의 이전 컨텍스트 편집 제한
- Claude Sonnet 5.5에서 추론 기록 접근 대상을 해당 요청 생성 조직으로 한정
- 2단계 분류기, 추출 시도 패치, 반복 시도 계정 제한·차단 적용
사용 방법·가용성
- 2단계 분류기 적용 대상: Claude Sonnet 5.5, Claude Opus 5·5.5, Claude Fable 5·5.1
- 2026년 8월 31일 이후 생성된 API 계정에 preserved thinking 적용
- 9월 24일부터 오탐률 0.1% 미만 영역의 차단 요청 재과금
한계·주의점
- 공격 우회 기법의 지속적 출현 가능성과 신규 추출 기법 모니터링 필요
- 합법 사용자 통합 변경, 유의미한 매출 및 대규모 유료 트래픽 손실이라는 운영상 비용
