Anthropic Claude Mythos Preview, HAWK 및 라운드 축소 AES에 대한 개선된 공격 발견

TL;DR

Anthropic은 Claude Mythos Preview에 의해 주로 자율적으로 생성된 두 가지 새로운 암호 해독 결과를 발표했습니다. 하나는 양자 내성 서명 스킴인 HAWK의 유효 키 크기를 절반으로 줄이는 공격이며, 다른 하나는 기존 연구보다 200~800배 빠른 7-라운드 AES에 대한 meet-in-the-middle 공격입니다. 두 공격 모두 이론적인 것이며 배포된 시스템에는 영향을 미치지 않지만, 언어 모델이 알고리즘적 결함을 발견하는 데 얼마나 강력할 수 있는지를 보여줍니다.

연구 발표 개요

Anthropic의 블로그 포스트 "Discovering cryptographic weaknesses with Claude"는 Claude Mythos Preview 모델이 어떻게 두 가지 잘 알려진 암호 프리미티브에 대한 새로운 공격을 찾는 데 사용되었는지 자세히 설명합니다. 이 작업은 최소한의 인간 가이드로 수행되었으며, 공격당 약 $100,000의 API 사용 비용이 발생했으며, NIST와 HAWK의 원저자들에게 책임감 있게 공개되었습니다. 연구 결과는 두 개의 별도 논문에 문서화되었으며, 향후 LLM 기반 암호 해독을 위한 오픈 소스 데모 코드와 벤치마크 스위트(CryptanalysisBench)가 제공됩니다.

HAWK에 대한 개선된 키 복구 공격

핵심 결과

Claude Mythos Preview는 HAWK의 기반이 되는 격자(lattice)에서 사소하지 않은 자기동형사상(automorphism)을 식별하여, 스킴의 유효 키 크기를 2배로 줄이는 더 빠른 열거 공격(enumeration attack)을 가능하게 했습니다. HAWK-256 파라미터 세트의 경우, 예상 공격 비용은 (2^{64})에서 (2^{38})로 감소합니다.

기술적 기반

• HAWK의 보안은 Lattice Isomorphism Problem의 어려움에 의존합니다.
• 이전 연구(예: ePrint 2025/928)는 이러한 자기동형사상을 효율적으로 찾는 것이 공격을 허용한다는 것을 증명했지만, HAWK의 격자에서 그 존재를 입증하지는 못했습니다.
• Mythos는 자기동형사상을 발견하고, Sage/Python으로 검증 파이프라인을 구축하여 공격을 엔드 투 엔드로 확인했습니다.

발견 과정

• Claude Code와 유사한 멀티 에이전트 하네스가 계산 도구와 암호학 문헌에 접근할 수 있는 여러 워커 에이전트를 조정했습니다.
• 인간의 감독은 프로젝트 관리에 국한되었습니다. 핵심 통찰력은 두 에이전트 간의 대화에서 나왔으며, 그중 하나는 처음에 그 아이디어를 일축했으나 다른 에이전트가 이를 다듬었습니다.
• 총 발견 시간: 약 60시간; API 비용: 약 $100k.

영향 평가

• 이 공격은 다항식이 아닌 지수적(exponential)이며, 아직 배포되지 않은 NIST 3라운드 후보인 HAWK에만 영향을 미칩니다.
• 이는 AI가 2년간의 전문가 검토를 견뎌낸 구조적 약점을 찾아낼 수 있음을 보여줍니다.
• 이 결과는 향후 NIST 후보들이 유사한 간과를 피하기 위해 AI 지원 분석으로 평가되어야 함을 시사합니다.

7-라운드 AES에 대한 더 빠른 meet-in-the-middle 공격

핵심 결과

Claude Mythos Preview는 7-라운드 AES-128에 대한 기존의 최적 meet-in-the-middle 공격에서 256배의 열거 단계를 제거하여 200~800배의 속도 향상을 가져오는 "Möbius Bridge" 핑거프린팅 알고리즘을 도입했습니다.

기술적 기반

• 이 공격은 이전 학술 설정과 일치하는 최대 (2^{105})개의 쿼리를 가진 선택 평문 모델을 가정합니다.
• Möbius Bridge는 이전 공격에서 필요했던 256개의 추측에 대해 불변인 변환을 생성하여 테이블 조회 횟수를 줄입니다.
• 추가적인 최적화가 변환의 더 높은 계산 비용을 상쇄합니다.

발견 과정

• 연구원들은 Claude가 가설을 세우고, 실험을 실행하고, 자율적으로 반복할 수 있는 스캐폴드를 구축했습니다.
• Claude가 AES-128이 "진정으로 어렵다"고 스스로 믿는 것을 극복하기 위해 초기 프롬프트가 필요했습니다.
• 3일 동안 Claude는 수억 개의 토큰을 생성했으며, 약 10억 개의 토큰을 생성한 후 마침내 Möbius Bridge를 제안했습니다.
• 인간의 노력은 수학적 검증과 논문 준비에 집중되었으며, 검증에는 수백 시간이 소요되었습니다.

영향 평가

• 이 공격은 전체 10-라운드 사이퍼가 아닌 7-라운드 축소 버전을 대상으로 하므로 즉각적인 실질적 영향은 없습니다.
• 이는 축소된 라운드의 AES 연구의 긴 계보를 확장하며, LLM이 미묘한 알고리즘 개선의 발견을 가속화할 수 있음을 보여줍니다.

지원 인프라: CryptanalysisBench

Anthropic은 ETH Zurich, Tel Aviv University, TU Berlin과 협력하여 LLM 암호 해독 능력을 체계적으로 평가하기 위해 여러 사이퍼를 패키징한 벤치마크 스위트인 CryptanalysisBench(arXiv 2607.18538)를 출시했습니다. 이 벤치마크는 재현성을 촉진하고 향후 모델 역량을 추적하기 위한 목적으로 설계되었습니다.

추가 예비 발견 사항

• LEA-13 공격 – Mythos는 데스크톱에서 1시간 미만, (<2^{30})개의 평문이 필요한 13-라운드 LEA에 대한 키 복구 공격을 발견했습니다. 전체 24-라운드 LEA는 여전히 안전합니다.
• Serpent-6 공격 – 6-라운드 Serpent-128에 대한 전체 키 복구 방법은 (>2^{70})개의 평문이 필요했던 이전 연구를 개선합니다.
• Salsa20, Poseidon, SHA-1에 대해 미미한 이득(<10x)이 관찰되었습니다.
• 이러한 결과는 아직 검증 중이며 향후 출판물을 통해 공개될 예정입니다.

암호학 및 보안 연구에 대한 시사점

• AI 증강 암호 해독 – HAWK 및 AES 결과는 최첨단 LLM이 연구 수준의 암호 해독을 수행할 수 있음을 증명하며, 후보 및 배포된 스킴 모두에서 약점 발견을 잠재적으로 가속화할 수 있음을 보여줍니다.
• 인간 병목 현상 – 모델이 공격을 빠르게 생성할 수 있지만, 인간 전문가는 특히 AES Möbius Bridge와 같은 복잡한 공격의 정확성을 검증하는 데 여전히 상당한 시간을 소비합니다.
• 정책적 고려 사항 – Anthropic은 공개 전 NIST와 HAWK 저자에게 알리는 책임 있는 공개(responsible disclosure)를 따랐습니다. AI 기반 공격이 더욱 강력해짐에 따라 조정된 공개 프레임워크가 필수적이 될 것입니다.
• 미래 워크플로우 – 저자들은 AI가 적대적 검토를 위한 표준 도구가 되어 설계자가 더 탄력적인 알고리즘을 반복적으로 설계하도록 돕고, 차세대 암호 프리미티브 설계에 기여할 것으로 예상합니다.

결론

Anthropic의 발표는 Claude Mythos Preview가 양자 내성 서명과 대칭 사이퍼 모두에 대해 수학적으로 사소하지 않은 공격을 자율적으로 찾아낼 수 있음을 보여줍니다. 비록 이 공격들이 배포되지 않았거나 라운드가 축소된 버전을 대상으로 하지만, 이는 패러다임의 변화를 강조합니다. 언어 모델은 이제 실질적인 암호 해독 연구에 기여할 수 있으며, 이는 보안 커뮤니티가 검증 프로세스를 조정하고 표준 암호 검토 파이프라인에 AI 도구를 통합하도록 촉구합니다.

---

전체 논문 링크

• HAWK 공격: https://anthropic.com/document/hawk_key_recovery.pdf
• AES Möbius Bridge 공격: https://anthropic.com/document/aes_mobius_bridge.pdf
• AES에 대한 Claude의 사고 사슬(chain-of-thought): https://anthropic.com/document/aes_mobius_bridge_cot.pdf
• CryptanalysisBench 벤치마크: https://arxiv.org/abs/2607.18538