Anthropic Circuits Updates June 2024

Anthropic은 2024년 6월에 해석 가능성, 멀티에이전트 시스템의 시스템적 위험, 그리고 미출시된 연구용 Claude 버전의 복잡한 수학 문제 해결 능력에 초점을 맞춘 일련의 예비 연구 업데이트를 발표했습니다. 이러한 업데이트는 공식적이고 성숙한 논문이라기보다는 발전 중인 아이디어와 예비 실험의 공유 세트로 기능합니다.

Mathematical Capabilities and the Riemann Zeta Function

미출시된 연구용 Claude 버전은 리만 가설과 관련된 문제에서 상당한 진전을 보여주었습니다. 구체적으로, 이 모델은 가설을 만족하는 리만 제타 함수의 영점 비율에 대한 오랜 하한선을 개선하여, 하한선을 41.6%에서 67.2%로 높였습니다.

Multiagent Systems and Systemic Failures

Anthropic은 현재의 프론티어 모델이 멀티에이전트 시스템에 배치되었을 때 예상치 못한 시스템적 실패를 초래할 수 있는 행동 경향을 조사하고 있습니다. 이 연구의 목표는 이러한 패턴을 식별하고 관련 위험을 완화하는 방법에 대한 논문에 대한 논의를 시작하는 것입니다.

Worker Retraining Programs

독립 연구자인 David Roodman과의 협업을 통해, Anthropic의 Maxim Massenkoff는 AI 주도 경제 변화의 맥락에서 노동자 재교육 프로그램의 효과성을 탐구하며 노동자 재교육 프로그램을 둘러싼 증거에 대한 검토를 공동 저술했습니다.

Research Status and Intent

Anthropic의 Interpretability 팀은 이러한 업데이트를 "개발 중인 아이디어" 및 "새롭게 나타나는 연구 흐름"이라고 설명합니다. 팀은 이러한 결과가 최종 확정된 동료 검토를 거친 연구 논문이 아니라 동료들 간에 공유되는 예비 실험으로 취급되기를 명시적으로 요청합니다.