AI
Fable 5의 사이버 보호장치와 탈옥 프레임워크
Fable 5's cyber safeguards and our jailbreak framework
두줄요약
Anthropic은 Fable 5의 사이버 보안 분류기 차단 범위와 4단계 사용 분류를 공개했습니다. AI 탈옥 심각도 프레임워크 초안과 HackerOne 제보 프로그램도 함께 제시했습니다.
핵심 발표
- Claude Fable 5의 사이버 보안 안전 분류기 동작 범위와 차단 대상 공개
- Glasswing 파트너와 마련한 AI 탈옥 심각도 프레임워크 초안 제시
주요 변화
- 금지 사용, 고위험 이중 용도, 저위험 이중 용도, 무해한 사용의 4개 분류 체계
- Fable 5에서 이전 모델보다 크게 설정한 안전 여유 구간과 이에 따른 오탐 가능성
- 분류기 외 접근 제어, 모델 안전 학습, 오프라인 모니터링을 포함한 다층 보호 체계
개발자 영향
- 멀웨어 개발·전파, 방어 회피, 데이터 유출, 파괴적 영향 등 금지 사용 요청 차단
- 침투 테스트, 익스플로잇 개발, 권한 상승, 고도 취약점 탐지 등 고위험 이중 용도 요청 차단
- 방어적 취약점 탐지는 일부 허용하되, 널리 이용 가능한 모델보다 높은 수준의 취약점 탐지와 자동 익스플로잇 생성 제한
사용 방법·가용성
- Claude Fable 5의 전 세계 모든 사용자 대상 재배포
- Fable 5 잠재적 사이버 탈옥 제보를 위한 HackerOne 프로그램 운영
- cyber-safeguards@anthropic.com을 통한 프레임워크 피드백 접수