Anthropic Circuits Updates July 2024

Anthropic 发布了一系列 2024 年 7 月的初步研究更新，为其实际进行中的可解释性团队工作提供了一个窗口。这些更新涵盖了从多智能体系统中的系统性故障到黎曼 zeta 函数方面的重大数学进展等一系列主题。

Mathematical Breakthroughs in Claude Research Version

一个尚未发布的 Claude 研究版本在与黎man 假设相关的难题上取得了显著进展。具体而言，该模型提高了满足该假设的 Riemann zeta 函数零点比例的长期下限，将该界限从 41.6% 提高到了 67.2%。

Behavioral Tendencies in Multiagent Systems

Anthropic 对新兴多智能体系统的研究识别出了当前前沿模型中的特定行为倾向。团队报告称，这些倾向可能导致意想不到的系统性故障，强调了需要缓解策略来降低这些风险。

Worker Retraining Program Evidence Review

通过与独立研究员 David Roodman 合作，Anthropic 的 Maxim Massenkoff 共同撰写了一篇关于工人再培训计划证据的综述。这项研究侧重于评估旨在帮助工人过渡到新角色的计划的证据基础。

Nature of the Research Updates

Anthropic 明确表示，这些 2024 年 7 月的更新应被视为初步实验和正在发展的想法，而非成熟的、经过同行评审的论文。这些更新包括可能导致未来出版物的研究新兴方向，以及团队打算与社区分享但无意就此撰写正式论文的细微观点。