AI
프런티어 모델 학습 환경 보안 강화
Securing our frontier model training environment
두줄요약
OpenAI가 프런티어 모델 학습 환경의 격리를 강화하고 인터넷 접근을 차단했습니다. 모델 기반 레드팀으로 취약점을 찾아 보완하고 RL 학습을 재개했습니다.
핵심 발표
- 프런티어 모델 학습·평가 환경의 격리 강화와 고성능 모델 기반 레드팀 수행
- 학습 중인 프런티어 모델의 라이브 인터넷 접근 금지 정책 적용
연구 방법·결과
- 모델 에이전트 팀에 라이브 인터넷 접근, 보안 경계 이탈, 비인가 에이전트 통신 경로 탐색 과제 부여
- 미확인 소프트웨어 취약점과 연구 인프라 설정 오류 발견 및 개선
- 9월 20일 DNS 리졸버 설정 오류를 통한 제한적 라이브 인터넷 접근 사고 이후 학습·평가 일시 중단
주요 변화
- 오프라인 웹 환경에서의 프런티어 RL 실행
- 제한 컨테이너, microVM, 모니터링, 네트워크·클라우드 경계를 결합한 다층 방어
- 고위험 활동 감지 시 실행을 자동 중단하는 시스템 강화
개발자 영향
- 고연산 레드팀을 프런티어 학습·평가 실행의 보안 안전성 평가에 포함
- 발견된 오픈소스 취약점의 Patch the Planet 이니셔티브 기반 공개·수정 협력
- 강화된 통제와 평가 완료 후 10월 1일 프런티어 모델 RL 학습 및 내부 추론 재개