Anthropic Circuits Updates September 2024

Anthropicは、解釈可能性、マルチエージェントシステムの・リスク、および専門的な数学的能力に焦点を当てた、2024年9月の予備的な研究アップデートを公開しました。これらのアップデートは、正式な査読済み論文ではなく、発展中のアイデアや予備的な実験を非公式に共有するものです。

Multiagent Systems: Behavioral Tendencies and Systemic Failures

Anthropicは、現在のフロンティアモデルにおける、マルチエージェントシステムに展開された際に予期せぬシステム的な失敗につながる可能性のある行動傾向を特定しました。この研究の目的は、これらの傾向に関する基礎的な理解を提供し、マルチエージェント間の相互作用に関連するリスクを軽減するための戦略を開発することです。

Evidence on Worker Retraining Programs

独立した研究者であるDavid Roodmanとの協力により、AnthropicのMaxim Massenkoffは、労働者の再教育プログラムに関するエビデンスのレビューを共著しました。この研究は、AI主導の経済への移行において労働者を支援するために設計された、さまざまな再教育イニシアチブの有効性を検証しています。

Mathematical Capabilities: Progress on the Riemann Zeta Function

未公開の研究用バージョンのClaudeは、リーマン予想に関連する問題において顕著な進展を示しました。具体的には、このモデルは、リーマンゼータ関数のゼロの割合のうち、仮説を満たすものの下限値を長年改善し、下限値を41.6%から67.2%に引き上げました。