
적대적 증류 대응
Combatting adversarial distillation
두줄요약
OpenAI는 적대적 증류로 인한 안전장치 우회 위험과 다층 방어 전략을 공개했습니다. GPT‑6.2 Astra의 추론 추출 공격 성공률은 내부 평가에서 0.2%로 낮아졌습니다.
핵심 발표
- 무단 모델 능력 복제를 통한 안전장치 우회 위험인 적대적 증류 대응 전략 공개
- 적대적 테스트, 모델 학습, 분류기, API 보호 및 조직적 추출 캠페인 조사 결합
주요 변화
- GPT‑6.2 Astra와 GPT‑6.2 Sol의 보호된 추론 추출 방어 강화
- 대화 이력이 생성한 보호된 추론을 해당 이력에 연결하고, 이전 메시지 수정 시 후속 추론 폐기
- 입력·출력 분류기를 통한 추론 추출 및 도구 호출 인수 내 유출 탐지
연구 방법·결과
- 강한 자동화 레드팀을 사용한 내부 적응형 평가에서 GPT‑6 Astra 기존 보호 대비 GPT‑6.2 Astra의 평균 공격 성공률 54.0%에서 0.2%로 감소
- 정확한 추론 흔적으로 학습한 학생 모델의 지도 미세 조정 후 성능 우세와, 최대 추론 예산에서의 사이버 보안 벤치마크 점수 우세
- 사용자에게 보이는 최종 응답·추론 요약·도구 상호작용을 기준선으로 삼아 정확한 추론 흔적의 추가 능력 이전 측정
개발자 영향
- 스트리밍·비스트리밍 응답과 도구 호출을 포함한 보호된 추론 유출 방어 필요성
- 조사로 확인한 공격 사례를 학습·테스트에 반영하고, 다른 모델 제공자와 침해 지표 공유




