Anthropic Interpretability Research Overview

Anthropicの解釈可能性（Interpretability）チームは、AIの安全性を確保し、ポジティブな成果をうながすために、大規模言語モデル（LLMs）の内部メカニズムの発見と理解に専念しています。モデルの挙動を詳細に説明することで、チームはバイアス、悪用、および自律的な有害行動を含む、重要な安全性の問題を解決することを目指しています。

Internal Model Understanding as a Foundation for Safety

ニューラルネットワークの内部状態を理解することは、その安全性を推論するために不可欠です。Anthropicのアプローチは、大規模言語モデルの特定の挙動を説明することに焦点を当て、ブラックボックス的な動作を超え、研究者がバイアスや自律的な有害行動の防止に関連する問題を解決できるようにすることを目指しています。

Multidisciplinary Research Approach

Anthropicは、機械学習、天文学、物理学、数学、生物学、およびデータ可視化の背景を持つ、多角的な研究チームを採用しています。このチームには、scaling lawsの論文に貢献した人物や、mechanistic interpretabilityを開始した功績のある研究者など、この分野の主要な人物が含まれています。

Key Research Areas and Publications

Anthropicは、モデルの内部に関するさまざまな側面に関する研究の軌跡を公開しています。これには以下が含まれます：

• Cognitive Architecture: 言語モデルにおける「global workspace」の研究（2026年7月）。
• Textualization of Internal States: モデルの「思考」をテキストに変換するための Natural Language Autoencoders の開発（2026年5月）。
• Emotion and Persona: 感情の概念とその機能に関する研究（2026年4月）、および特性を監視・制御するための persona vectors の研究（2025年8月）。
• Model Comparison and Stability: 新しいモデルの挙動の違いを見つけるための「diff」ツールの作成（2026年3月）およびモデルのキャラクターを安定させるための assistant axis に関する研究（2026年1月）。
• Introspection and Tracing: LLMsにおける内省（introspection）の兆候に関する研究（2025年10月）および大規模言語モデルの思考を追跡するためのツール（2025年3月）。
• **Tooling and Auditing: 回路の追跡ツールのオープンソース化（2025年5月）および隠れた目的を持つ言語モデルの監査（2025年3月）。