Claude로 암호 알고리즘의 취약점 발견하기

핵심 발표

• Claude Mythos Preview를 활용한 HAWK 포스트양자 디지털 서명과 라운드 축소 AES 공격 기법 발견
• HAWK의 알려진 최선 공격 개선 및 라운드 축소 AES 공격 속도 200~800배 향상

연구 방법·결과

• HAWK 격자에서 기존에 활용되지 않은 nontrivial automorphism 발견
• HAWK 공격의 유효 키 크기 절반 감소, HAWK-256 완전 키 복구 예상 비용 2^64에서 2^38로 시연
• 에이전틱 하니스의 다중 작업자, Python·Sage 연산 도구, 문헌 검토와 계산 실험 활용

개발자 영향

• 실제 배포 전 암호 알고리즘 사양의 결함 탐색에 프런티어 AI 모델 활용 가능성
• LLM 암호해석 역량 평가용 CryptanalysisBench 공개 협력

한계·주의점

• HAWK는 아직 배포되지 않은 후보 서명 방식으로 현 프로덕션 시스템 영향 없음
• AES 공격 대상은 전체 AES가 아닌 라운드 축소 버전
• HAWK 공격은 지수 시간 공격이며 다른 NIST 후보나 격자 기반 암호 전반에는 영향 없음