Anthropic: Claude가 더 효율적인 양자 회로를 설계하여 일부 게이트 수를 17배 줄임

Anthropic은 Claude Mythos 5가 8가지 계산 기본 요소에서 이전에 발표된 최고의 설계를 능가하는 양자 회로를 설계했으며, 어떤 경우에는 한 자릿수 이상의 개선을 이루었다고 발표했습니다. 이 결과가 중요한 이유는 유용한 알고리즘에 필요한 양자 자원의 역사적 감소 대부분이 하드웨어만이 아니라 회로 설계에 의해 주도되었기 때문입니다. 따라서 더 빠른 회로 설계는 실용적인 양자 컴퓨터를 더 가깝게 만들 수 있습니다.

이 작업은 Anthropic의 STEM Fellows Program의 일환으로 Andi Gu가 주도했으며, Anthropic의 양자 물리학자 Alek Kemeny의 멘토링과 Susanne Yelin(하버드 대학교) 및 Mikhail Lukin(하버드 대학교 및 QuEra Computing)의 협력으로 이루어졌습니다. 전체 논문은 arXiv에서 arxiv.org/abs/2610.22367에서 확인할 수 있습니다.

양자 회로 설계가 어려운 최적화 문제인 이유

양자 컴퓨터는 단일 원자, 초전도 회로 또는 빛 입자로 만들 수 있는 큐비트에 정보를 저장합니다. 큐비트는 중첩(양자 시스템이 동시에 여러 상태의 조합으로 존재할 수 있는 능력)을 활용하여 고전 컴퓨터로는 다루기 어려운 화학, 재료 과학 및 정수론의 특정 문제를 처리합니다.

지금까지 만들어진 기계는 수백에서 수천 개의 큐비트만 가지고 있어 실용적인 이점을 약속하는 많은 알고리즘을 실행하기에는 턱없이 부족합니다. 큐비트는 또한 열, 진동 및 우주선과 같은 환경 노이즈에 매우 민감합니다. 작은 오류가 누적되어 컴퓨터가 잘못된 답을 반환할 때까지 이어집니다. 큐비트와 계산 시간이 모두 부족하기 때문에 연구자들은 더 적은 큐비트를 사용하고 더 짧은 시간에 완료되도록 양자 알고리즘을 재설계하기 위해 노력해 왔습니다.

양자 알고리즘은 큐비트에 적용되는 게이트 시퀀스인 양자 회로로 구현됩니다. Toffoli 게이트는 실행하는 데 가장 비용이 많이 드는 게이트 중 하나이므로 Toffoli 게이트 수를 세는 것은 계산에 걸리는 시간을 추정하는 표준적인 방법입니다.

대표적인 예는 질소 고정 효소의 핵심인 철-황 클러스터 FeMoco로, 박테리아가 대기 중 질소를 암모니아로 전환하는 데 사용합니다. 2017년에 연구자들은 양자 컴퓨터가 FeMoco의 바닥 상태 에너지를 계산하는 데 약 50조 개의 Toffoli 게이트가 필요할 것으로 추정했습니다. 일련의 알고리즘 개선을 통해 이 추정치는 약 3억 4천만 개의 게이트로 줄었습니다. 이는 약 150,000배의 감소로, 약 3백만 개의 물리적 큐비트를 가진 미래 기계에서 몇 시간의 계산에 해당합니다. 이러한 감소는 주로 더 나은 하드웨어보다는 회로 재설계에서 비롯되었습니다.

Anthropic이 회로 설계에서 Claude를 테스트한 방법

Anthropic은 Claude에게 화학, 최적화, 물리 시뮬레이션 및 정수론에서 가져온 8개의 회로에 대한 일반 언어 사양과 각 설계를 확인하고 점수를 매기는 자동 평가자를 제공했습니다. Claude에게는 기존에 발표된 회로를 튜닝할 수 있는 기회가 주어지지 않았습니다.

세 가지 속성으로 인해 양자 회로는 모델에 적합했습니다.

• 회로는 코드로 작성할 수 있습니다. 양자 회로는 게이트 시퀀스이므로 Claude의 코딩 기능을 사용하여 회로 설계를 일반 프로그램으로 작성, 실행 및 수정할 수 있습니다.
• 정확성을 효율적으로 확인할 수 있습니다. Anthropic이 목표로 한 알고리즘 클래스는 입력당 하나의 명확한 출력을 제공하며, 일반 컴퓨터가 이를 검증할 수 있으므로 외부 평가자 프로그램이 Claude의 제안을 검증할 수 있습니다.
• 명확한 목표 점수가 있습니다. 평가자는 큐비트 수에 게이트 수를 곱한 값으로 설계에 점수를 매기며, 이는 회로 실행 시간의 대리 지표입니다.

Claude Mythos 5는 폐쇄 루프에서 작업했습니다. 회로 설계를 제안하고, 평가자 프로그램으로부터 피드백과 점수를 받고, 그 피드백을 사용하여 다음 시도를 개선했으며, 라운드 사이에 인간의 입력은 없었습니다. 8가지 계산 기본 요소(더 큰 양자 알고리즘이 구축되는 기본 루틴) 전반에 걸쳐 Claude는 이전에 발표된 최고의 알고리즘보다 더 적은 큐비트와 더 적은 게이트를 사용하는 새로운 설계를 찾았습니다.

Anthropic은 각 경우의 개선이 기존 설계를 미세 조정하는 것이 아니라 문제에 대한 새로운 구조적 및 수학적 통찰력을 발견하는 데서 비롯되었다고 밝혔습니다. 예를 들어, 철-황 분자 시뮬레이션 회로를 컴파일할 때 Claude는 분자의 대칭성과 반복 구조로 인해 일부 결과를 시스템의 모든 부분에 대해 다시 계산하는 대신 한 번 계산하고 재사용할 수 있음을 발견했습니다. 다른 경우에는 기존 회로에 극히 드문 입력을 처리하는 데만 필요한 비용이 많이 드는 구성 요소가 포함되어 있음을 발견하고 해당 구성 요소 없이 재설계했습니다.

양자 회로를 형성하는 가역성 제약

양자 회로 설계는 일반 프로그래밍에는 없는 두 가지 제약을 부과하며, 둘 다 양자 회로를 고전 회로보다 런타임과 큐비트 측면에서 훨씬 더 비싸게 만듭니다.

첫째, 양자 회로는 일반 프로그램처럼 "if-then" 결정을 내릴 수 없습니다. 일반 프로그램은 값을 확인하고 두 코드 조각 중 하나만 실행할 수 있습니다. 양자 컴퓨터는 한 번에 많은 입력의 중첩으로 실행되며, 일부는 첫 번째 분기를, 일부는 두 번째 분기를 취할 수 있으므로 회로는 실행할 때마다 두 작업을 모두 포함해야 합니다.

둘째, 양자 회로는 정보를 버릴 수 없습니다. 일반 프로그램은 임시 작업을 덮어쓰거나 삭제할 수 있습니다. 양자 컴퓨터에서는 모든 단계가 가역적이어야 하므로 중간 정보를 단순히 지울 수 없습니다. 정보를 그대로 두는 것도 최종 결과를 손상시킬 수 있으므로 옵션이 아닙니다. 정보를 버리는 유일한 방법은 정보를 생성한 계산을 역순으로 실행하여 "언컴퓨트"하는 것이며, 추가 게이트 비용이 발생합니다.

이로 인해 공간(큐비트)과 시간 사이의 균형이 강제됩니다. 한 극단에서는 회로가 중간 결과를 사용하자마자 언컴퓨트하여 큐비트를 확보하지만, 나중에 해당 결과가 다시 필요하면 재계산을 강제합니다. 다른 극단에서는 회로가 더 이상 필요하지 않을 때까지 중간 결과를 유지하여 반복 작업을 피하지만 훨씬 더 많은 큐비트가 필요합니다.

결과 1: 모듈러 역원을 위한 divsteps의 가역 구현

Anthropic이 Claude에게 준 첫 번째 작업은 점 덧셈(타원 곡선의 두 점을 결합하여 세 번째 점을 생성하는 규칙)이었습니다. 점 덧셈은 타원 곡선의 이산 로그 문제에 대한 양자 알고리즘의 핵심 단계입니다. 시작점과 그 점을 n번 더한 결과가 주어졌을 때 n을 찾는 것입니다. 큰 곡선의 경우 일반 컴퓨터는 합리적인 시간 내에 이 문제를 해결할 수 없지만, 충분히 큰 양자 컴퓨터는 해결할 수 있습니다. 이러한 덧셈은 이러한 알고리즘의 큐비트 및 런타임 비용의 대부분을 차지하므로 점 덧셈은 표준 벤치마크입니다.

Claude는 점 덧셈의 수학적 규칙, 평가자가 각 제안된 회로의 정확성을 확인하고 큐비트와 게이트에 대해 점수를 매기는 방법, 여러 접근 방식을 병렬로 탐색하라는 지침을 설명하는 한 단락 분량의 브리핑을 받았습니다. 최소한의 인간 입력(초기 브리핑과 더 넓게 생각하라는 가끔의 프롬프트로 제한됨)으로 53시간 동안 작업한 후 Claude는 완전히 새로운 접근 방식을 도출했습니다.

divsteps에 실용적인 양자 회로가 없었던 이유

점 덧셈 비용의 대부분은 모듈러 역원이라는 단일 단계에서 비롯됩니다. 타원 곡선 산술은 고정된 한계에서 다시 감싸는 숫자를 사용합니다. 모듈러 역원은 나눗셈의 랩어라운드 버전입니다. 정수 a가 주어지면 ax ≡ 1 (mod p)인 x를 찾는 것입니다. 일반 컴퓨터는 divsteps라는 방법을 사용하여 이를 효율적으로 수행합니다. 이 방법은 숫자 쌍으로 시작하여 여러 라운드에 걸쳐 반복적으로 단순화하고, 조건부로 교환, 더하기, 빼기 또는 반으로 나누면서 최종적으로 모듈러 역원을 생성하기에 충분한 정보를 보존합니다.

Divsteps는 가역성 제약 때문에 실용적인 양자 회로를 생성하지 못했습니다. 각 반복에서 선택된 연산의 기록(분기 정보라고 함)은 전통적인 프로그램이 버릴 수 있는 임시 작업의 일종입니다. 양자 회로는 계산을 역방향으로 실행할 수 있도록 해당 기록을 유지해야 합니다. 따라서 divsteps의 단순한 양자 버전은 긴 분기 정보 기록을 축적해야 하므로 엄청난 수의 추가 큐비트가 필요합니다.

Claude의 디코딩 접근 방식

Claude는 전체 기록을 저장하지 않는 방법이 있는 경우에만 divsteps가 양자 회로에 유망할 수 있음을 인식하고 기록을 전혀 저장할 필요가 없을 수도 있다고 제안했습니다. 분기 정보는 각 반복 후 숫자 쌍을 검사하여 직접 추론하거나 "디코딩"할 수 있다고 추론했습니다. 본질적으로 숫자 자체가 기록을 저장하고 회로는 추가 큐비트 없이 역방향으로 실행될 수 있습니다.

초기 후보 디코딩 규칙은 작은 테스트 사례에서 작동했지만 256비트 숫자의 전체 문제 크기에서는 실패했습니다. 그런 다음 Claude는 더 이론적인 접근 방식을 취했습니다. 규칙을 추측하고 테스트하는 대신 divsteps가 왜 그렇게 동작하는지 수학적으로 이해하려고 했습니다. 반복 프로세스에 대한 일련의 결과(여러 새로운 대수적 항등식 포함)를 증명했고, 이러한 항등식에서 숫자 쌍에서 분기 정보를 복구하는 디코딩 규칙에 대한 정확한 공식을 도출했습니다. 먼저 대규모 수치 시뮬레이션을 통해 공식을 확인한 다음 Lean에서 주장을 공식화했습니다. 그 결과 저장된 분기 기록 없이 divsteps를 최초로 가역적으로 구현했습니다.

파레토 최적선을 따른 설계 제품군

디코딩은 큐비트를 절약하지만 시간이 걸리므로 Claude는 분기 정보를 저장하는 것이 디코딩하는 것보다 저렴한 상황을 찾았습니다. 회로가 디코딩 대신 저장하는 임계값을 변경함으로써 Claude는 두 극단을 아우르는 새로운 설계 제품군을 생성했습니다. 가장 작은 이전 설계와 비교하여 제품군의 한 회로는 큐비트가 12% 더 많지만 게이트가 17배 적습니다. 더 일반적으로, 새로운 설계는 이전에 사용할 수 없었던 큐비트 수와 런타임의 조합을 제공하여 파레토 최적선을 확장합니다.

Anthropic은 자사 설계를 Schrottenloher(2026) 및 Luo et al.(2026)의 이전에 발표된 최고 결과와 비교합니다.

결과 2: 디코딩된 양자 간섭계를 위한 12배 저렴한 디코더

최적화 문제(일정 관리, 물류, 재료 설계)는 경쟁 제약을 제시하고 가능한 한 많은 제약을 충족하는 솔루션을 요구합니다. 이러한 문제에 대해 많은 양자 알고리즘이 제안되었지만 대부분은 일반 컴퓨터에 비해 약간 또는 불확실한 이점만 제공합니다. 디코딩된 양자 간섭계(DQI)는 초다항식 양자 속도 향상의 가장 강력한 후보 중 하나이며, 문제가 커질수록 이점이 빠르게 확대됩니다.

양자 컴퓨터가 계산을 마치면 큐비트를 읽어내면 중첩에 보유한 가능성 중에서 무작위로 선택된 하나의 답만 생성됩니다. DQI는 좋은 솔루션이 나쁜 솔루션보다 읽힐 가능성이 더 높은 양자 상태를 준비합니다. 여기에는 간결한 요약에서 짧은 "오류" 목록을 복구하는 오류 정정 디코더가 포함됩니다. 이 디코더는 알고리즘에서 가장 비용이 많이 드는 단계이므로 더 빠른 디코더는 DQI를 더 빠르게 만듭니다.

OPI 문제와 Reed-Solomon 디코딩 비용

DQI를 도입한 연구자들은 곡선 피팅의 그리드 기반 버전인 최적 다항식 교차(OPI)에서 이를 시연했습니다. 각 위치 x에 여러 허용 가능한 y 값이 포함된 그리드를 상상해 보세요. 목표는 가능한 한 많은 x 위치에 대해 허용 가능한 사각형을 통과하는 단순한 곡선(저차 다항식)을 찾는 것입니다. DQI는 Reed-Solomon 디코더를 사용하여 이를 해결합니다.

Reed-Solomon 디코딩은 신드롬이라는 오류의 간결한 요약에서 시작합니다. 디코더는 이 요약에서 데이터에서 오류가 발생한 위치와 오류가 무엇인지 추론합니다. 이전 최첨단 양자 회로는 확장된 유클리드 알고리즘을 사용하여 신드롬을 처리했습니다. 이 알고리즘은 단계 수와 순서가 특정 입력에 따라 달라지는 일련의 나눗셈과 교환입니다. 여기서 양자 제약이 다시 나타납니다. 일반 프로그램은 입력마다 다른 경로를 따를 수 있지만 한 번에 많은 입력에서 작동하는 양자 회로는 단일 고정 게이트 시퀀스로 모든 입력을 처리해야 합니다. 따라서 이전 설계는 단일 입력에 필요한 것보다 훨씬 더 많은 반복 라운드에 걸쳐 계산을 늘리고 필요하지 않은 경우에도 모든 라운드에서 모든 작업을 실행해야 했습니다.

Anthropic은 Google Quantum AI 연구원들의 추정을 인용하여 특정 OPI 문제를 해결하는 데 세계에서 가장 강력한 슈퍼컴퓨터 중 하나인 Frontier에서 약 3개월이 걸릴 것이라고 밝혔습니다. 반면 DQI를 실행하는 미래 양자 컴퓨터에서는 약 1시간이 걸리며, 그 시간의 대부분은 Reed-Solomon 디코딩에 사용됩니다.

확장된 유클리드 대신 Berlekamp-Massey

더 효율적인 디코딩 회로를 설계하라는 요청을 받은 Claude는 확장된 유클리드 알고리즘이 양자 회로에 적합하지 않다는 결론을 빠르게 내렸습니다. 대신 Berlekamp-Massey 디코딩을 중심으로 회로를 구성했습니다. 이 디코딩은 신드롬을 하나씩 읽고 목록의 각 숫자를 이전 숫자에서 예측하는 가장 간단한 규칙을 점진적으로 찾아냅니다. 규칙이 발견되면 오류가 드러납니다. 확장된 유클리드 알고리즘과 달리 Berlekamp-Massey는 모든 라운드에서 동일한 종류의 단계를 수행하고 항상 동일한 수의 라운드를 실행하므로 양자 회로의 단일 고정 게이트 시퀀스에 적합합니다.

임시 값 저장 대신 재구성

Berlekamp-Massey로 전환하면 입력에 따라 다른 경로가 필요하지 않게 되었지만, 가역적으로 만들면 언컴퓨팅 문제가 다시 발생했습니다. 모든 라운드에서 회로는 잠시만 필요한 임시 값을 계산하며 이 정보는 단순히 삭제할 수 없습니다. 나중에 언컴퓨팅하려면 회로가 해당 정보를 복구할 수 있어야 합니다.

이 정보를 저장하는 것은 엄청나게 비쌌을 것이므로 Claude는 divsteps와 동일한 접근 방식을 취했습니다. 회로의 현재 상태에서 대부분의 정보를 재구성하는 방법을 찾은 것입니다. 이 방법으로 복구할 수 없는 몇 가지 예외 값은 저장해야 했습니다. 최악의 경우(예외 값이 35개의 다른 라운드에서 발생)를 대비해 충분한 메모리를 확보하려면 665큐비트가 필요합니다. 대신 Claude는 고속 시뮬레이터를 작성하고 4억 3백만 개의 샘플 디코딩을 실행하여 예외가 실제로 얼마나 자주 발생하는지 측정했습니다. 거의 모든 실행에서 최대 하나의 값을 저장해야 했으므로 Claude의 회로는 하나의 저장된 값(19큐비트)을 위한 공간만 확보합니다. 약 10,000번의 실행 중 1번은 그 이상이 필요하여 실패하며, Anthropic은 이는 작업이 허용하는 오류율 내에 있다고 밝혔습니다.

이러한 최적화를 함께 적용하면 Google의 이전 구성에 비해 디코더의 게이트 수가 12배 줄었습니다. Anthropic은 개선을 세 가지 수준에서 계산을 재설계한 데서 비롯된 것으로 설명합니다. 다른 방법(확장된 유클리드 알고리즘 대신 Berlekamp-Massey), 다른 회로 아키텍처(임시 값 저장 대신 재구성), 다른 리소스 예산(회로에 실제로 필요한 메모리와 계산량을 정확히 측정). 단일 변경만으로는 충분하지 않았을 것입니다.

Anthropic이 Claude의 행동에 대해 배운 것

Anthropic은 이 결과를 과학적 진보의 더 넓은 패턴의 예로 제시합니다. 프로세스를 충분히 빠르고 저렴하게 만들어 이론적 아이디어를 실용적으로 만드는 것입니다. FeMoco 추정치의 150,000배 감소는 여러 연구 그룹이 8년이 걸렸으며, 각 단계는 일반적으로 몇 달의 작업을 나타냅니다. 대조적으로 Claude의 타원 곡선 설계는 단일 53시간 실행에서 나왔습니다.

Anthropic은 또한 한계를 보고합니다. 초기 실험에서 Claude는 본질적으로 보수적이었습니다. 명백한 개선을 반복적으로 재고하고 이미 잘 뒷받침된 결과를 두 번, 심지어 세 번 확인하는 경우가 있었습니다. 이러한 신중함은 때때로 가치가 있었습니다. Claude가 divsteps 설계를 검증하기 위해 Lean 증명을 작성하도록 촉구했기 때문입니다. 그러나 또한 더 새롭고 참신한 접근 방식보다 기존의 잘 알려진 접근 방식을 선호하는 경향으로 나타났습니다.

Anthropic은 이를 완화하기 위해 두 가지 조치를 취했습니다.

1. 설정에서 Claude가 질적으로 다른 여러 접근 방식을 제안하고 병렬로 개발하도록 요구했습니다.
2. Anthropic은 때때로 Claude에게 검색 범위를 넓히도록 프롬프트했습니다.

이러한 개입은 Claude가 더 야심찬 아이디어를 추구하도록 하는 데 성공했습니다. 타원 곡선 결과는 기존 설계에서 게이트를 줄이는 것이 아니라 이전에는 불가능했던 가역 모듈러 역원 방법을 탐구한 다음 이를 실용적으로 만들기 위해 필요한 수학적 결과를 도출하는 데서 나왔습니다. 아이디어를 얻은 후 Claude는 접근 방식을 개발하고 구현하고 정확성을 자율적으로 검증했습니다.

결과가 내결함성 양자 컴퓨팅에 의미하는 바

Anthropic은 회로 설계가 유용한 양자 컴퓨터를 구축하는 한 부분일 뿐이라고 지적합니다. 큐비트가 매우 취약하기 때문에 기계는 실행 중에 자체 오류를 포착하고 수정해야 하며, 이는 오류 정정 코드, 빠른 디코더 및 하드웨어 자체 제어와 같은 많은 다른 구성 요소에 의존합니다. 이러한 구성 요소는 모두 서로 영향을 미치지만 복잡성을 관리하기 위해 일반적으로 각각 별도로 설계됩니다.

이러한 구성 요소 중 상당수는 회로 설계를 Claude에게 적합하게 만든 특성을 공유합니다. 설계를 코드로 작성하고, 정확성을 확인하고, 비용으로 점수를 매길 수 있습니다. Anthropic은 AI가 알고리즘에서 하드웨어에 이르기까지 모든 것을 공동으로 최적화하여 특정 문제에 맞게 조정된 전체 오류 정정 양자 컴퓨터를 구축할 수 있는 가능성을 제기합니다. 이러한 설계는 또한 하드웨어 제작자에게 특정 애플리케이션에 가장 중요한 기능이 무엇인지 알려줄 수 있으며, Anthropic은 이를 통해 촉매 설계 및 새로운 재료 이해와 같은 문제를 최초의 내결함성 기계로 해결할 수 있게 될 수 있다고 제안합니다.