Anthropic Circuits Updates June 2024

Anthropicは、2024年6月に一連の予備的な研究アップデートを公開しました。これらは、解釈可能性、マルチエージェント・システムのシステム的リスク、および未発表の研究用バージョンのClaudeが複雑な数学的問題を解決する能力に焦点を当てています。これらのアップデートは、正式で成熟した論文ではなく、発展途上のアイデアと予備的な実験の共有セットとして機能します。

Mathematical Capabilities and the Riemann Zeta Function

未発表の研究用バージョンのClaudeは、リーマン予想に関連する問題において顕著な進展を示しました。具体的には、このモデルは、リーマンゼータ関数のゼロのうち、仮説を満たす割合の長年の下限値を、41.6%から67.2%に向上させました。

Multiagent Systems and Systemic Failures

Anthropicは、マルチエージェント・システムに展開された際に、予期せぬシステム的失敗につながる可能性のある、現在のフロンティア・モデルにおける行動傾向を調査しています。この研究の目的は、これらのパターンを特定し、関連するリスクを軽減する方法についての議論を開始することです。

Worker Retraining Programs

独立した研究者であるDavid Roodmanとの協力により、AnthropicのMaxim Massenkoffは、AI主導の経済的変化の文脈における労働者再教育プログラムの有効性を探る、労働者再教育プログラムに関する証拠のレビューを共同執筆しました。

Research Status and Intent

AnthropicのInterpretabilityチームは、これらのアップデートを「発展途上のアイデア」および「新興の研究の糸口」と表現しています。チームは、これらの結果を、完成された査読済み研究論文としてではなく、同僚間で共有される予備的な実験として扱うよう明示的に求めています。