커뮤니티 안전을 위한 OpenAI의 약속

핵심 발표

• ChatGPT의 폭력·위해 사용 방지를 위한 모델 안전장치, 위험 탐지, 정책 집행 체계 공개
• 안전·프라이버시·시민 자유의 균형을 고려한 지속적 개선 방침

주요 변화

• 장기·고위험 대화에서 미묘한 위해 징후를 인식하는 안전장치 강화
• 분류기, 추론 모델, 해시 매칭, 차단 목록 등을 활용한 자동 탐지와 인적 맥락 검토 병행
• 성인 사용자가 추가 지원이 필요할 때 알림을 받을 신뢰할 수 있는 연락처 기능 도입 예정

개발자 영향

• 폭력 계획·실행을 지원하는 요청, 안전장치 우회, 위협·테러·무기 개발 등 사용 금지 정책 적용
• 위반 확인 시 계정 비활성화, 동일 사용자 계정 차단, 신규 계정 개설 방지 조치 가능

한계·주의점

• 임박하고 신뢰할 수 있는 타인 위해 위험이 확인된 경우 법 집행 기관 통보 가능
• 청소년 대화 내용은 부모에게 공개하지 않되, 급성 고통 징후의 드문 경우 안전 지원에 필요한 정보만 알림