Anthropic 可解释性研究概览

Anthropic 的可解释性团队致力于发现并理解大型语言模型（LLMs）的内部机制，以确保人工智能安全并推动积极成果。通过详细解释模型行为，该团队旨在解决偏见、滥用以及自主有害行为等关键安全问题。

内部模型理解作为安全的基础

理解神经网络的内部状态对于推理其安全性至关重要。Anthropic 的方法侧重于解释大型语言模型的具体行为，以超越黑箱操作，使研究人员能够解决与偏见相关的问题以及防止自主有害行为。

多学科研究方法

Anthropic 拥有一支多学科背景的研究团队，成员来自机器学习、天文学、物理学、数学、生物学和数据可视化等领域。该团队包括该领域的关键人物，例如曾参与规模定律论文的作者，以及被公认为开创机制可解释性研究的研究人员。

关键研究领域与出版物

Anthropic 发布了研究路线图，聚焦于模型内部的多个方面，包括：

• 认知架构： 对语言模型中“全局工作空间”的研究（2026年7月）。
• 内部状态的文本化： 开发自然语言自动编码器，将模型的“思想”转化为文本（2026年5月）。
• 情感与人格： 对情感概念及其功能的研究（2026年4月），以及用于监控和控制角色特征的人格向量（2025年8月）。
• 模型比较与稳定性： 开发“diff”工具以发现新模型的行为差异（2026年3月），以及关于助手轴的研究，用于稳定模型人格（2026年1月）。
• 内省与追踪： 对大型语言模型内省迹象的研究（2025年10月）以及用于追踪大型语言模型思维的工具（2025年3月）。
• 工具与审计： 开源电路追踪工具（2025年5月）以及对语言模型隐藏目标的审计（2025年3月）。