목록 보기
새 도구와 지원으로 온라인 아동 성착취·학대 대응 강화
AI

새 도구와 지원으로 온라인 아동 성착취·학대 대응 강화

Strengthening the fight against online child sexual abuse with new tools and support

OpenAI
OpenAI
2026년 11월 16일

두줄요약

OpenAI가 잠재적 CSAM과 AI 생성 자료를 탐지하는 이미지 분류기를 공개했습니다. 개발자 가이드와 ChatGPT 경고, 수사기관 지원 도구도 함께 제공합니다.

핵심 발표

  • 잠재적 CSAM과 AI 생성 자료를 탐지하는 이미지 분류기 공개
  • ChatGPT 내 유해 자료 탐색 차단 경고, 개발자용 CSAM 가이드, 수사기관 지원 도구·교육 제공

주요 변화

  • 시각적 학대 징후 기반의 신규 이미지 탐지와 우선 검토용 점수 제공
  • 탐지된 대화 삭제 및 ChatGPT 24시간 접근 일시 중지, 반복 위반 시 장기 제한·계정 폐쇄·당국 신고 가능
  • 수사관의 장문 채팅 로그·법적 절차 반환 자료 검토, 연결 식별, 타임라인 작성 지원

연구 방법·결과

  • 사용자 업로드 이미지 평가에서 기존 도구와 유사한 학대 이미지 발견량으로 검토 대상 이미지 48% 감소 추정
  • 신규 분류기 플래그 이미지의 학대 포함 가능성 약 2배
  • fal 평가에서 고신뢰도 플래그의 72%를 신규 CSAM으로 확인, SafetyKit 평가에서 아동 성적 대상화 그림·애니메이션 사례 90% 탐지

사용 방법·가용성

  • 검증된 조직 대상 OpenAI API를 통한 분류기 무상 제공
  • 관심 조직용 접근 요청 intake form 제공
  • 개발자용 CSAM guidance, Moderation API, ROOST Coop, Thorn’s Safer 병행 활용 안내

다음 읽기

#ChatGPT 주제를 이어서 읽기

커뮤니티 안전을 위한 OpenAI의 약속

OpenAI가 ChatGPT의 폭력 악용을 줄이기 위한 탐지·검토·집행 체계를 공개했습니다. 임박하고 신뢰할 수 있는 위해 위험에는 법 집행 기관 통보도 가능하다고 밝혔습니다.

OpenAI
OpenAI
AI
전체 보기

OpenAI, Anthropic 등 AI 기업 공식 블로그의 최신 글을 한국어 요약과 함께 확인하세요.

댓글 0개

댓글을 작성하려면 로그인이 필요합니다.

댓글을 불러오는 중...