AI 기반 ‘위장 조직’ 영향력 공작 차단

핵심 발표

• 러시아와 이란에서 비롯된 AI 기반 은밀한 영향력 공작(IO) 2건 관련 ChatGPT 계정 차단
• 위장 언론인 페르소나와 싱크탱크를 활용한 지정학·분쟁 관련 메시지 세탁 및 유포 시도

연구 방법·결과

• 러시아발 ‘Dark Clark’ 작전의 IO Breakout Scale Category 5 평가, OpenAI 보고 이래 첫 Category 5 차단 사례
• 이란발 작전의 Category 4 평가와 소셜 미디어 댓글·장문 기사 생성 확인
• 실제 언론 매체 게재를 시도한 작전에서 더 높은 잠재 도달 범위와 영향력 관찰

개발자 영향

• AI를 통한 위장 조직의 규모화, 작업 효율화, 언어 유창성 및 편집 역량 강화 가능성
• 직원·편집자 등 제3자 악용과 출처·동기를 알 수 없는 콘텐츠 노출 위험
• 책임 있는 공개를 통한 추가 조사·차단 지원과 작전 지속 비용 증대 필요

한계·주의점

• 두 작전의 모든 콘텐츠가 OpenAI 모델로 생성된 것은 아님
• 러시아 작전의 모델 사용은 주로 캠페인 콘텐츠 생성보다 내부 활동 보고서 작성에 집중