AI
Fable 5의 생물학 안전장치 개선
Improving Fable 5's safeguards
두줄요약
Claude Fable 5의 생물학 분류기를 개선해 관련 fallback을 약 85% 줄였습니다. 이중용도 연구 요청은 계속 Opus 5로 전환해 안전장치를 유지합니다.
핵심 발표
- Claude Fable 5 생물학 안전장치 업데이트로 생물학 관련 fallback 약 85% 감소
- 일상 건강·교육 질문과 임상 업무에 대한 Fable 5 지원 범위 확대
주요 변화
- 허용·보호 대상 콘텐츠를 구분하는 classifier constitution 재작성 및 학습 데이터 갱신
- 무해한 생물학 요청을 더 정밀하게 판별하면서 유해·이중용도 연구 생물학 요청 차단 유지
사용 방법·가용성
- classifier 작동 시 생물학 역량이 더 낮은 Opus 5로 요청 재라우팅
- 바이러스학, 독성학, 분자 설계를 포함한 이중용도 요청은 계속 Opus 5로 fallback
한계·주의점
- 저위험 요청에도 classifier가 작동하는 false positive 지속 가능성
- 전문 생물학 연구 및 신약 개발 이중용도 요청은 아직 Fable 5 사용 불가
- 최첨단 생물학 역량은 trusted access pathway를 통해 제공 예정
