Claude와 GPU 클러스터를 이용한 RSA-896 인수분해

2026년 9월 19일, RSA-896 도전 과제 번호가 성공적으로 인수분해되었습니다. 이 작업은 Anthropic 소속 직원인 madars가 주도하였으며, 인수분해에 필요한 계산의 기술적 이식과 조율을 위해 Claude AI 모델을 활용했습니다.

구현 및 계산 자원

RSA-896의 인수분해는 CADO-NFS(일반 수체계 필드 선형법) 구현을 GPU에서 실행되도록 이식함으로써 달성되었습니다. Claude는 CADO-NFS 코드의 이식 작업과 데이터센터 내에서 가용한 유휴 자원을 활용해 GPU 클러스터를 조율하는 데 사용되었습니다.

이 작업의 주요 기술 사양은 다음과 같습니다:

• 하드웨어: 최대 2,048개의 GPU를 사용했습니다.
• 기간: 약 10일간 진행되었습니다.
• 계산 비용: 총 30 GPU년에 해당하는 계산량이 소요되었습니다.
• 소프트웨어: 기존의 일반 수체계 필드 선형법(GNFS) 알고리즘과 CADO-NFS 소프트웨어 패키지를 기반으로 했습니다.

보안 의미 및 알고리즘 상태

이 성과는 암호 알고리즘 분야의 돌파구이거나 현재 배포된 RSA 키에 대한 새로운 위협을 의미하지 않습니다. 인수분해는 여전히 지수적 복잡도를 가지는 기존 알고리즘을 사용하여 수행되었습니다.

프로젝트의 작성자는 다음과 같이 언급했습니다:

"먼저 수체계 필드 선형법과 CADO-NFS를 수십 년에 걸쳐 구축해 온 사람들과 이전 기록을 세운 팀들에게 공로가 있습니다. 이번 실행은 그들의 알고리즘과 코드의 많은 부분을 사용했습니다."

커뮤니티 논의 및 분석

이 사건을 둘러싼 기술적 논의는 계산 자원의 효율성과 AI의 역할에 대해 몇 가지 중요한 점을 강조했습니다:

• AI의 역할: 일부 참여자는 AI가 인수분해를 위한 새로운 수학적 방법을 발견한 것이 아니라, 소프트웨어 공학(코드 이식)과 인프라 조율 도구로 사용되었다고 지적했습니다.
• 계산 자원 활용: "가용한 유휴 자원"을 사용했다는 점은 이미 지불하고 예약된 자원을 활용했다는 것을 의미하며, 이로 인해 추가적인 마진 비용은 사실상 0이었습니다.
• 실제 취약성: 일부 사용자는 Instagram과 같은 일부 서비스에서 여전히 사용 중인 768비트 RSA 키와 같은 작은 키들은 유사한 GPU 가속화된 주말 프로젝트를 통해 이제 쉽게 인수분해될 수 있다고 지적했습니다.