AI
조직적 모델 증류 공격 캠페인 차단
Disrupting a coordinated model-distillation campaign
두줄요약
OpenAI가 보호된 모델 추론을 추출하려는 조직적 적대적 증류 캠페인을 차단했습니다. 재생 경로와 스트리밍 출력 보호를 강화하고 업계와 위협 정보를 공유합니다.
핵심 발표
- 보호된 모델 추론을 추출하려는 조직적 적대적 증류 캠페인 식별 및 차단
- 핵심 활동 클러스터를 Kimi 개발사 Moonshot AI와 연계된 인물로 귀속
연구 방법·결과
- 암호화된 추론을 다른 대화에서 복호화·전사하도록 유도하는 신규 추출 방식 관찰
- 독립 보안 연구자의 책임 공개를 통해 교차 모델·대화 압축 관련 공격 경로 확인
- 7월 24~25일 4,000명 이상 사용자의 관련 추출 패턴 요청 16,000건 관측, 7월 28일까지 15,000명 이상 클러스터 차단
주요 변화
- 타 사용자의 암호화된 추론을 재생해 내용 복구가 가능한 경로 차단
- 추론 노출 가능성이 있는 스트리밍 출력을 탐지·보류하는 검사 추가
- 계정 제재, 가입·인프라 통제 강화, 관련 네트워크 모니터링 확대
한계·주의점
- 수치는 추출 시도 기준이며 성공 여부를 의미하지 않음
- 파트너 호스팅 배포와 도구 출력 공격에 대한 추가 보호 필요
- Frontier Model Forum 및 정부 정보 공유 채널을 통한 공동 방어 강화
