AI
AI 기반 사이버 위협 1년치 매핑에서 얻은 교훈
Mapping AI-enabled cyber threats
두줄요약
Anthropic은 832개 악성 계정을 분석해 AI가 사이버 공격의 복잡한 후반 단계까지 확장됨을 확인했습니다. 기존 MITRE ATT&CK는 자율형 AI 공격의 위험성을 충분히 포착하지 못한다고 지적했습니다.
핵심 발표
- 2025년 3월~2026년 3월 악성 사이버 활동으로 차단된 계정 832개를 MITRE ATT&CK에 매핑한 분석
- AI가 공격자의 고도화·자율화를 촉진하며 기존 위험 평가와 프레임워크의 한계 확인
연구 방법·결과
- 832개 계정 중 560개(67.3%)의 공격 준비 단계 AI 활용, 54개(6.5%)의 lateral movement 지원 활용
- 중간 위험 이상 공격자 비율, 분석 전반기 33%에서 후반기 56%로 약 1.7배 증가
- 계정 탐색 AI 활용 8.9% 증가, AI 지원 피싱 8.6% 감소
개발자 영향
- 기술 수나 Claude Code·API·채팅 인터페이스 선택만으로 공격자 위험도 판별의 어려움
- 공격 단계 연결, 실시간 판단, 최소한의 사람 개입을 위한 모델 주변 scaffolding의 위험 신호
- 모델 내 악성코드 개발·대규모 데이터 유출 탐지 및 차단용 사이버 안전장치 배포
한계·주의점
- MITRE ATT&CK에 순차적 공격 오케스트레이션, 자율 실행, 실시간 전술 판단을 나타내는 ATT&CK ID 부재
- 2025년 11월 차단한 국가 지원 사이버 첩보 활동, 30개 기술·13개 전술에도 위험 점수 100
