AI
EU 텍스트 출처 규정에 대한 OpenAI의 접근 방식
Our approach to EU text provenance rules
두줄요약
OpenAI가 EU AI Act에 맞춰 textGrain 기반 텍스트 워터마킹 도입 방식을 공개했습니다. API 옵트인과 EU ChatGPT·Codex 적용을 시작하며, 탐지 한계도 함께 밝혔습니다.
핵심 발표
- EU AI Act 대응을 위한 텍스트 워터마킹 접근 방식 공개
- textGrain 기반의 보이지 않는 통계적 워터마크와 탐지기 도입
사용 방법·가용성
- 전 세계 API 고객 대상 일부 모델의 텍스트 워터마킹 옵트인 제공, 기본값은 비활성화
- 향후 수주 내 EU 전용으로 적격 ChatGPT 및 Codex 출력에 워터마크 추가
- 탐지기 접근 권한은 승인된 연구자와 전문 기관에 사례별 초기 제공
연구 방법·결과
- 1% 목표 오탐률에서 200토큰 심리학 텍스트 탐지율 약 80%, 400토큰 약 95%
- 400토큰 문장에서 동의어 10% 치환 시 탐지율 약 92%에서 66%, 25% 치환 시 17%로 감소
- Astra 벤치마크에서 워터마킹 적용 전후 의미 있는 성능 차이 부재
한계·주의점
- 짧거나 단어 선택 유연성이 낮은 수학 등 텍스트에서 낮은 탐지율
- 워터마크 탐지 결과만으로 인간 기여도, 소유권·책임, 사용자 신원, 정확성 판단 불가
- 워터마크 미탐지만으로 인간 저작 증명 불가
