목록 보기
적대적 증류 대응
AI

적대적 증류 대응

Combatting adversarial distillation

OpenAI
OpenAI
2026년 11월 20일

두줄요약

OpenAI는 적대적 증류로 인한 안전장치 우회 위험과 다층 방어 전략을 공개했습니다. GPT‑6.2 Astra의 추론 추출 공격 성공률은 내부 평가에서 0.2%로 낮아졌습니다.

핵심 발표

  • 무단 모델 능력 복제를 통한 안전장치 우회 위험인 적대적 증류 대응 전략 공개
  • 적대적 테스트, 모델 학습, 분류기, API 보호 및 조직적 추출 캠페인 조사 결합

주요 변화

  • GPT‑6.2 Astra와 GPT‑6.2 Sol의 보호된 추론 추출 방어 강화
  • 대화 이력이 생성한 보호된 추론을 해당 이력에 연결하고, 이전 메시지 수정 시 후속 추론 폐기
  • 입력·출력 분류기를 통한 추론 추출 및 도구 호출 인수 내 유출 탐지

연구 방법·결과

  • 강한 자동화 레드팀을 사용한 내부 적응형 평가에서 GPT‑6 Astra 기존 보호 대비 GPT‑6.2 Astra의 평균 공격 성공률 54.0%에서 0.2%로 감소
  • 정확한 추론 흔적으로 학습한 학생 모델의 지도 미세 조정 후 성능 우세와, 최대 추론 예산에서의 사이버 보안 벤치마크 점수 우세
  • 사용자에게 보이는 최종 응답·추론 요약·도구 상호작용을 기준선으로 삼아 정확한 추론 흔적의 추가 능력 이전 측정

개발자 영향

  • 스트리밍·비스트리밍 응답과 도구 호출을 포함한 보호된 추론 유출 방어 필요성
  • 조사로 확인한 공격 사례를 학습·테스트에 반영하고, 다른 모델 제공자와 침해 지표 공유

다음 읽기

#API 주제를 다룬 다른 회사 글

증류 공격에 대한 방어 강화

Anthropic이 Claude의 불법 증류 공격 방어를 강화해 데이터 수집량을 약 90~99% 줄였다고 밝혔습니다. 추론 접근 제한과 분류기, 반복 시도 차단을 함께 적용했습니다.

Anthropic
Anthropic
AI
전체 보기

OpenAI, Anthropic 등 AI 기업 공식 블로그의 최신 글을 한국어 요약과 함께 확인하세요.

댓글 0개

댓글을 작성하려면 로그인이 필요합니다.

댓글을 불러오는 중...