Anthropic 재귀적 자기 개선 진행 보고서

Anthropic은 AI 개발 사이클의 점점 더 큰 비중을 AI 시스템에 위임하고 있으며, 모델 반복 속도를 가속화하고 있습니다. 이러한 추세는 재귀적 자기 개선—AI 시스템이 스스로 차세대 모델을 설계하고 개발할 수 있는 상태—을 향해 나아가고 있음을 시사합니다. 완전한 자율성은 아직 달성되지 않았지만, 현재 데이터는 AI가 이미 엔지니어링 및 연구 작업에 소요되는 시간을 크게 단축하고 있음을 보여줍니다.

Engineering Acceleration and Code Production

AI 에이전트는 단순한 코드 조각 생성에서 코드를 실행하고 작업을 위임할 수 있는 자율 에이전트로 전환되었습니다. 이 변화로 Anthropic의 순수 코드 산출량이 크게 증가했습니다.

Code Volume: 2026년 5월 현재, Anthropic의 프로덕션 코드베이스에 병합된 코드의 80% 이상이 Claude에 의해 작성되었습니다.
Engineer Productivity: 2026년 2분기에 일반 Anthropic 엔지니어는 2024년에 비해 하루에 8배 더 많은 코드를 병합했습니다. Anthropic은 이를 엔지니어가 코드를 직접 입력하는 대신 AI가 생성한 코드를 지시하고 검토하는 방향으로 전환했기 때문이라고 설명합니다.
Code Quality: Claude의 "open-ended problems"(명확한 사양이 없는 작업) 성공률은 2026년 5월에 76%에 도달했으며, 이는 6개월 동안 50 퍼센트 포인트 상승한 수치입니다. Anthropic은 Claude가 작성한 코드가 2025년 말에 인간이 작성한 코드와 동등한 수준에 도달했으며, 1년 내에 확실히 더 나아질 것으로 예상합니다.
Automated Review: 자동화된 Claude 리뷰어가 이제 버그와 보안 결함을 스캔합니다; 사후 분석에 따르면 이 도구는 과거 claude.ai 사고에서 발생한 버그의 약 3분의 1을 잡아냈을 것이라고 합니다.

AI in the Research Loop

코드 작성 외에도 AI는 연구 실험을 실행하고 제안하는 능력이 점점 향상되고 있어, 인간의 역할이 고수준 방향 설정으로 축소되고 있습니다.

Experimental Optimization: Claude에게 훈련 코드를 속도 면에서 최적화하도록 요청한 테스트에서, Claude Mythos Preview는 2026년 4월까지 약 52배의 속도 향상을 달성했으며, 이는 2025년 5월 Claude Opus 4가 달성한 약 3배에 비해 크게 앞선 수치입니다. 참고로 숙련된 인간 연구자는 일반적으로 4배 속도 향상을 얻기 위해 4~8시간이 걸립니다.
Autonomous Research: 2026년 4월, Claude 기반 에이전트가 개방형 AI 안전 프로젝트를 수행했습니다. 에이전트는 800시간 누적 작업을 통해 약한 감독자와 강력한 모델 사이의 성능 격차 97%를 회복했으며, 반면 두 명의 인간 연구자는 일주일에 23%만 회복했습니다.
Research Judgment: 129개의 실제 연구 세션을 조사한 결과, Claude Mythos Preview는 인간 연구자가 선택에 개선 여지가 있었던 순간에 64%의 비율로 더 나은 "다음 단계"를 제안했습니다.

Path to Recursive Self-Improvement

Anthropic은 개발 과정에서 인간 역할이 점점 좁아지고 있음을 확인했습니다. "실행"(코딩 및 실험 수행)이 인간 시간 기준으로 거의 무료가 되면서, 병목 현상은 "연구 취향"—어떤 문제를 해결할 가치가 있는지 결정하는 능력—으로 이동하고 있습니다.

Potential Future Scenarios

Stall/S-Curve: 규모 확장의 수익 감소, 하드웨어 제약(에너지 및 연산), 혹은 Transformer를 대체할 새로운 아키텍처 필요성 등으로 인해 진행이 정체될 수 있습니다.
Compounding Efficiency: AI가 개발을 지속적으로 자동화하고 인간은 여전히 주요 방향 설정자 역할을 유지합니다. 이는 소규모 팀이 거대 조직의 작업을 수행할 수 있게 할 수 있습니다.
Full Recursive Self-Improvement: AI 시스템이 변혁적인 창의성을 갖추어 자체 차세대 모델을 설계합니다. 이 경우 진행은 연산량과 알고리즘 효율성에만 제한되며, 인간 능력을 급속히 초월할 가능성이 있습니다.

Community Perspectives and Critiques

Hacker News에서 기술 동료들 사이의 논의는 Anthropic의 지표와 이 경로의 안전성에 대해 상당한 회의론을 드러냈습니다.

Metrics and Quality

비평가들은 "코드 라인 수"(LOC)가 생산성의 좋은 대리 지표가 아니며, AI가 종종 더 장황하고 유지보수가 어려우며 "영리하지만 취약한" 코드를 생성한다고 지적합니다.

"'LOC != 생산성'이라고 인정하는 텍스트를 보이면서도 여전히 이를 지표로 사용하는 모습을 보입니다."

Reliability and Trust

일부 사용자는 Anthropic이 주장하는 초인적인 코딩 능력과 실제 서비스 안정성 사이의 격차를 지적했습니다.

"신뢰성이 2 9(99.99%)에 못 미치는 서비스를 기반으로 삼천억 달러 평가를 받은 회사의 대담한 말이군요."

Safety and Ethics

재귀적 자기 개선을 추구하는 것이 AI 안전 목표와 근본적으로 양립할 수 없다는 강력한 반론이 제기되었습니다.

"핵무기가 아직 발명되지 않았다면, 가능한 한 빨리 만들고 판매하는 것이 과연 좋은 생각일까요?"

Coordination and the "Pause" Option

Anthropic은 검증 가능한 전 세계 협력 메커니즘이 존재한다면, 사회 구조와 정렬 연구가 따라잡을 수 있도록 최전선 AI 개발을 일시적으로 중단하는 것에 열려 있다고 제안합니다. 그러나 훈련 실행은 물리적 무기보다 은폐가 쉽고, 탈퇴 유인이 높기 때문에 이러한 체제는 구현하기 어렵다고 인정합니다.