
새 도구와 지원으로 온라인 아동 성착취·학대 대응 강화
Strengthening the fight against online child sexual abuse with new tools and support
두줄요약
OpenAI가 잠재적 CSAM과 AI 생성 자료를 탐지하는 이미지 분류기를 공개했습니다. 개발자 가이드와 ChatGPT 경고, 수사기관 지원 도구도 함께 제공합니다.
핵심 발표
- 잠재적 CSAM과 AI 생성 자료를 탐지하는 이미지 분류기 공개
- ChatGPT 내 유해 자료 탐색 차단 경고, 개발자용 CSAM 가이드, 수사기관 지원 도구·교육 제공
주요 변화
- 시각적 학대 징후 기반의 신규 이미지 탐지와 우선 검토용 점수 제공
- 탐지된 대화 삭제 및 ChatGPT 24시간 접근 일시 중지, 반복 위반 시 장기 제한·계정 폐쇄·당국 신고 가능
- 수사관의 장문 채팅 로그·법적 절차 반환 자료 검토, 연결 식별, 타임라인 작성 지원
연구 방법·결과
- 사용자 업로드 이미지 평가에서 기존 도구와 유사한 학대 이미지 발견량으로 검토 대상 이미지 48% 감소 추정
- 신규 분류기 플래그 이미지의 학대 포함 가능성 약 2배
- fal 평가에서 고신뢰도 플래그의 72%를 신규 CSAM으로 확인, SafetyKit 평가에서 아동 성적 대상화 그림·애니메이션 사례 90% 탐지
사용 방법·가용성
- 검증된 조직 대상 OpenAI API를 통한 분류기 무상 제공
- 관심 조직용 접근 요청 intake form 제공
- 개발자용 CSAM guidance, Moderation API, ROOST Coop, Thorn’s Safer 병행 활용 안내



