AI
더 안전하고 투명한 AI 생태계를 위한 콘텐츠 출처 정보 고도화
Advancing content provenance for a safer, more transparent AI ecosystem
두줄요약
OpenAI가 C2PA, SynthID, 공개 검증 도구를 결합한 콘텐츠 출처 정보 체계를 강화했습니다. 이미지와 지원 오디오를 검증하지만, 신호 미검출만으로 생성 여부를 단정하지는 않습니다.
핵심 발표
- C2PA 적합성 확보, Google DeepMind SynthID 워터마킹, 공개 검증 도구를 결합한 다층 콘텐츠 출처 정보 체계
- Content Credentials를 통한 AI 생성 콘텐츠의 출처·생성·편집 맥락 제공
주요 변화
- ChatGPT, Codex, OpenAI API 생성 이미지에 SynthID 비가시적 워터마크 적용
- 지원되는 OpenAI 도구 생성 오디오로 SynthID 워터마킹 확대
- 이미지와 지원 오디오의 출처 신호를 확인하는 공개 검증 도구 및 검증 API 제공
사용 방법·가용성
- 공개 검증 도구에서 업로드한 이미지·지원 오디오의 Content Credentials 및 SynthID 신호 확인
- 초기 도구 범위는 OpenAI 생성 콘텐츠로 한정
- 2026년 10월 5일 EU AI Act 준수를 위한 EU 내 텍스트 지원 확대
한계·주의점
- 메타데이터의 업로드·다운로드, 포맷 변경, 크기 조정, 스크린샷 과정에서의 손실 가능성
- 메타데이터나 워터마크 미검출 시 OpenAI 도구 생성 여부의 확정적 결론 미제공
- 단일 출처 정보 기술만으로는 불충분한 신뢰성 한계
