Anthropic Circuits 5월 2023 업데이트

Anthropic는 해석 가능성 팀의 업데이트를 발표하며, 다중 에이전트 시스템의 위험, 노동 시장의 적응, 그리고 Claude의 수학적 능력에 대한 연구를 상세히 설명했습니다. 이러한 업데이트는 AI 모델의 내부 메커니즘과 그 시스템적 영향을 이해하는 데 연구의 초점을 두고 있음을 강조합니다.

수학적 능력과 리만 제타 함수

공개되지 않은 Claude의 연구 버전이 리만 가설과 관련된 문제에서 상당한 진전을 보였습니다. 구체적으로, 리만 제타 함수의 영점 중 가설을 만족하는 비율에 대한 오랜 하한을 개선하여, 하한을 41.6%에서 67.2%로 높였습니다.

다중 에이전트 시스템과 체계적 실패

Anthropic는 현재 최전방 모델에서 나타나는 행동적 경향성을 조사하고 있으며, 이는 다중 에이전트 시스템에 배포될 때 예기치 않은 체계적 실패로 이어질 수 있습니다. 이 연구의 목적은 이러한 패턴을 식별하여, 이러한 새로운 시스템과 관련된 위험을 완화하기 위한 대화를 시작하는 것입니다.

근로자 재교육 프로그램

독립 연구자인 David Roodman와 협력하여, Anthropic의 Maxim Massenkoff는 근로자 재교육 프로그램에 대한 증거를 검토한 논문을 공동 저술했습니다. 이 연구는 AI로 인한 노동 시장 변화의 효과와 영향에 대한 증거를 분석합니다.

연구 철학

Anthropic의 해석 가능성 팀은 향후 논문으로 이어질 수 있는 연구의 새로운 방향과, 공식 논문이 되기 어려운 소소한 점들을 공유하기 위해 이러한 업데이트를 제공합니다. 이를 통해 연구 공동체 내 지식 공유를 촉진하고자 합니다.