Claude Mythos Preview, HAWK 및 라운드 축소 AES에 대한 개선된 공격 발견

HAWK에 대한 개선된 공격

Claude Mythos Preview는 HAWK 양자 내성 서명 스킴에 대해 유효 키 크기를 절반으로 줄이는 개선된 키 복구 공격을 발견했습니다. 이 공격은 HAWK-256을 깨는 데 예상되는 비용을 2^64 연산에서 2^38 연산으로 줄이며, 이는 동일한 보안 수준을 위해 두 배의 키 길이가 필요함을 의미합니다. 이 결과는 가끔 인간의 가이드를 받는 반자율적 에이전트 하네스를 사용하여 60시간 동안 작업한 끝에 얻어졌습니다. 이 공격은 HAWK의 기반이 되는 격자(lattice) 내의 비자명한 자기동형사상(automorphism)을 이용합니다. 이는 이전 연구에서 공격이 가능할 것이라고 보여주었으나 HAWK 인스턴스에서는 발견되지 않았던 대칭성입니다. 이 발견은 HAWK가 아직 NIST 3라운드 후보이며 아직 실제 환경에 적용되지 않았기 때문에 배포된 시스템에는 영향을 미치지 않습니다.

HAWK 발견 과정

Hawk 공격은 Claude Mythos Preview 작업자들이 문헌을 검토하고, 수학적 추론을 수행하며, 계산 실험을 실행하는 협업형 멀티 에이전트 워크플로우를 통해 발견되었습니다. 한 작업자는 처음에 유망한 아이디어를 실행 불가능한 것으로 치부했으나, 두 번째 작업자가 이를 작동하는 공격으로 발전시켰으며, 두 작업자는 공격 방식에 합의할 때까지 메시지를 주고받았습니다. 이론 컴퓨터 과학 배경을 가졌으나 격자 기반 암호학 전문가는 아닌 인간 운영자는 검증을 위해 어떤 라이브러리를 사용할지와 같은 프로젝트 관리 조언만을 제공했습니다. 이 작업에 소요된 총 API 비용은 약 $100,000였습니다.

HAWK 공격의 영향

Hawk가 양자 내성 표준화 후보이기 때문에, 이 공격은 제출된 제안서에 명시된 키 크기가 원래 주장된 것보다 약하다는 것을 보여줍니다. 키 크기를 두 배로 늘리면 의도된 보안 수준을 회복할 수 있지만, HAWK를 매력적으로 만들었던 많은 효율성 장점들이 사라지게 됩니다. 이 공격은 HAWK에 특화된 것이며, 다른 NIST 양자 내성 서명 후보나 일반적인 격자 기반 암호학으로 확장되지 않습니다. 이 결과는 배포 전에 취약점을 찾아내는 NIST의 공개 검토 프로세스의 목적에 부합합니다.

라운드 축소 AES에 대한 개선된 공격

Claude Mythos Preview는 기존의 가장 빠른 공격보다 200배에서 800배 더 빠른 7라운드 AES-128에 대한 더 빠른 meet-in-the-middle 공격을 고안했습니다. 이 개선은 Möbius Bridge라고 불리는 새로운 핑거프린팅 알고리즘에서 비롯되었으며, 이는 추측 단계를 불변(invariant)하게 만들어 필요한 작업량을 256배 감소시킵니다. 이 공격은 표준 선택 평문 모델(chosen-plaintext model) 하에서 작동하며 여전히 비현실적인 수의 평문(2^105)을 필요로 하지만, 계산 구성 요소에서 상당한 속도 향상을 보여줍니다. 전체 10라운드 AES-128 암호는 여전히 깨지지 않은 상태로 남아 있습니다. 이 결과는 암호 해독 통찰력을 위해 연구된 라운드 축소 변형에만 적용됩니다.

AES 공격 발견 과정

AES 공격은 연구자가 Claude가 가설을 세우고, 실험을 실행하며, 공격 설계를 반복할 수 있는 스캐폴드를 구축한 후 거의 전적으로 자율적으로 발견되었습니다. 모델의 초기 프롬프트는 어떤 개선도 가능할지에 대해 의구심을 표했습니다. 새로운 아이디어를 찾으라는 명시적인 격려를 받은 후, 모델은 3일 동안 수억 개의 토큰을 생성했습니다. 세 가지 상위 수준의 프롬프트가 탐색을 안내했습니다: 고도의 지능적인 연구를 수행하라는 상기, 대상 암호를 변경하지 말라는 거부, 그리고 쉬운 문제(low-hanging fruit)를 피하라는 격려입니다. Möbius Bridge 아이디어가 등장한 후, 모델은 공격을 정교화하여 총 약 10억 개의 출력 토큰을 생성했습니다. 그 후 인간 연구자들은 주장을 검증하고 연구 논문을 준비하기 위해 암호학을 배우는 데 수백 시간을 소비했습니다. 이 작업에 대한 API 비용 또한 대략 $100,000였습니다.

AES 공격의 영향

이 공격은 암호의 7라운드 버전을 대상으로 하기 때문에 실제 세계의 AES 사용을 위협하지 않습니다. 현재 지식 하에서 전체 10라운드 AES-128은 안전하게 유지됩니다. 그럼에도 불구하고, 이 결과는 라운드 축소 변형에 관한 연구에 기여하며, 이는 암호 해독가들이 전체 알고리즘의 보안 마진을 추정하는 데 도움을 줍니다. 이 공격은 언어 모델이 새로운 암호 해독 기술의 발견을 어떻게 가속화할 수 있는지 보여주는 주목할 만한 사례입니다.

향후 연구 및 CryptanalysisBench

Hawk와 AES 외에도 팀은 Claude Mythos Preview를 사용하여 추가적인 암호들을 탐구했습니다. 13라운드 LEA에 대해 현대적인 데스크톱에서 1시간 이내에 실행되며 2^30 미만의 평문을 사용하여 키를 복구하는 실용적인 키 복구 공격이 개발되었습니다. 6라운드 Serpent-128에 대해서도 유사한 전체 키 복구 공격이 발견되었습니다. Salsa20, Poseidon 해시 함수, SHA-1에 대해서는 제한적인 개선(10배 미만)이 확인되었습니다. 더 광범위한 연구를 가능하게 하기 위해, 연구진은 ETH Zurich, Tel Aviv University, University of Haifa와 협력하여 LLM 능력을 평가하기 위해 많은 암호들을 묶은 벤치마크인 CryptanalysisBench를 출시했습니다. 이 벤치마크는 arXiv 프리프린트 arXiv:2607.18538에 설명되어 있습니다.

결론

이 연구는 최첨단 언어 모델이 특정 분야에서 최고 수준의 인간 전문가의 속도에 맞춰 자율적으로 연구 수준의 암호 해독 발전을 이끌어낼 수 있음을 보여줍니다. 모델이 발전함에 따라 사이버 보안 커뮤니티는 AI가 생성한 발견을 검증하고 해석하는 데 병목 현상에 직면할 수 있으며, 이는 검증, 참신성 평가 및 실제 영향 분석을 위한 새로운 워크플로우를 필요로 합니다. 팀은 보안 및 암호학 연구에서 언어 모델의 역할에 대해 논의하고 다른 암호 구조에 대한 조사를 계속 확장하기 위해 학술 워크숍을 개최할 계획입니다. 모든 주요 결과는 HAWK 저자들과 공유되었고, NIST 메일링 리스트를 통해 공개되었으며, 전체 기술 논문과(AES 공격의 경우) 사고 과정(chain-of-thought) 문서가 동반되었습니다. 이러한 단계는 책임 있는 공개 관행을 따르며 AI 기반 암호 해독의 함의에 대한 투명한 논의를 촉진하는 것을 목표로 합니다.