AI
민감한 대화에서 맥락을 더 잘 인식하도록 개선된 ChatGPT
Helping ChatGPT better recognize context in sensitive conversations
두줄요약
ChatGPT가 대화 안팎의 위험 신호를 더 잘 파악하도록 안전성을 업데이트했습니다. 내부 평가에서 자해·타인 위해 상황의 안전 응답 성능이 향상됐습니다.
핵심 발표
- 대화 흐름에서 점진적으로 드러나는 위험 신호를 인식하도록 ChatGPT 안전성 업데이트
- 자살·자해 및 타인 위해 상황에서 맥락에 따른 거절·완화·안전한 대안 안내 강화
주요 변화
- 여러 대화에 걸친 안전 관련 맥락을 위한 짧고 사실적인 safety summaries 도입
- 안전 추론용으로 학습된 모델의 요약 생성, 제한된 기간 동안 심각한 안전 우려가 있을 때만 활용
- 일반 개인화나 장기 기억이 아닌 안전 관련 사실 맥락으로 범위 한정
연구 방법·결과
- 긴 단일 대화 평가에서 자살·자해 안전 응답 성능 50%, 타인 위해 사례 16% 향상
- ChatGPT 기본 모델인 GPT‑5.5 Instant에서 다중 대화 평가 기준 타인 위해 52%, 자살·자해 39% 향상
- 4,000건 이상 safety summaries 평가에서 안전 관련성 평균 5점 만점에 4.93점, 사실성 4.34점
한계·주의점
- 현재 적용 범위는 자해 및 타인 위해 시나리오로 한정
- 일반 대화 품질은 safety summaries 유무 간 의미 있는 사용자 선호 차이 없음
- 향후 생물학·사이버 안전 등 고위험 영역 적용 가능성 탐색