Anthropic Circuits 7월 2024 업데이트

Anthropic는 2024년 7월에 해외 연구팀의 해석 가능성 팀이 진행 중인 작업을 엿볼 수 있는 일련의 초안 연구 업데이트를 발표했다. 이러한 업데이트는 다중 에이전트 시스템의 체계적 실패에서부터 리만 제타 함수에 대한 중요한 수학적 진전에 이르기까지 다양한 주제를 다룬다.

클로드 연구 버전에서의 수학적 돌파구

공개되지 않은 클로드의 연구 버전이 리만 가설과 관련된 문제에서 상당한 진전을 보였다. 구체적으로, 리만 제타 함수의 영점 중 가설을 만족하는 비율에 대한 오랜 하한을 41.6%에서 67.2%로 향상시켰다.

다중 에이전트 시스템에서의 행동 경향

Anthropic의 다중 에이전트 시스템에 대한 연구는 현재 최전방 모델에서 특정 행동 경향을 식별했다. 팀은 이러한 경향이 예기치 않은 체계적 실패로 이어질 수 있으며, 이러한 위험을 줄이기 위한 완화 전략이 필요함을 강조했다.

워커 재교육 프로그램 증거 리뷰

독립 연구자 데이비드 루드먼과 협력하여, Anthropic의 막심 마센코프는 워커 재교육 프로그램에 대한 증거를 검토한 논문을 공동 저술했다. 이 연구는 새로운 역할로 전환하는 데 도움을 주기 위한 프로그램의 증거 기반을 평가하는 데 초점을 맞추고 있다.

연구 업데이트의 성격

Anthropic는 명시적으로 2024년 7월 업데이트는 성숙한 피어 리뷰 논문이 아니라, 초안 실험과 발전 중인 아이디어로 간주되어야 한다고 밝혔다. 이러한 업데이트는 향후 논문으로 이어질 수 있는 새로운 연구 방향을 포함하며, 형식적인 논문을 작성할 의도 없이 커뮤니티와 공유하고자 하는 사소한 점들도 포함된다.