AnthropicがTransformerの残差ストリームにおける特権的基底を明らかにする

TL;DR

Anthropicは、Transformerの残差ストリームにおける個々の座標が数学的に任意ではなく、特権的基底と一致していることを発見しました。彼らはこの現象を、主にレイヤー正規化や浮動小数点精度ではなく、Adamの次元ごとの正規化子によるものと考えています。

主要な発見：基底の整列が存在する

実証的な分析により、残差ストリームの次元が体系的な情報を保持していることが示されました。これは、基底の方向が互換性があり、特別な意味を持たないはずであるという理論的な期待に矛盾します。

調査された原因

Adamオプティマイザの正規化子

著者らは、観察された基底の整列の最も妥当な原因として、Adamオプティマイザにおける次元ごとの正規化子を暫定的に特定しています。Adamは各パラメータを個別にスケーリングするため、学習された表現に一貫した方向的なバイアスを導入する可能性があります。

レイヤー正規化は除外された

実験により、レイヤー正規化は特権的基底の効果を生み出さないことが示されました。レイヤー正規化層を変更または削除しても、整列は変化しません。これは、それが原因ではないことを示しています。

有限精度の演算は除外された

浮動小数点精度（例：float32 vs. float64）を変化させたテストでは、基底の整列への影響は見られませんでした。これにより、著者らは有限精度の計算が原因であることを自信を持って否定することができました。

Transformer理論への影響

この発見は、残差ストリームの座標系が任意であるという仮定に挑戦するものです。もしオプティマイザのダイナミクスが基底に構造を刻み込むのであれば、Transformerの理論的モデルは、表現の幾何学を分析する際にオプティマイザに起因する異方性を考慮しなければなりません。

より広い文脈

Anthropicは、この研究を以下のような他のフロンティアモデルの調査と並行して位置づけています：

Emerging Multi-Agent Systems – システム的な失敗を引き起こす可能性のある行動パターンを探索する。
Worker Retraining Evidence Review – 外部の研究者と共同執筆した、政策志向のレビュー。
Claude’s Mathematical Capabilities – リーマン予想に関連する境界を前進させたClaudeの研究用バージョンを強調する。

これらのリンクは、高度なAIの技術的および社会的な側面の両方に焦点を当てるAnthropicのより広い関心を示しています。

結論

特権的基底の現象は、レイヤー正規化や数値精度ではなく、Adamの次元ごとのスケーリングに関連しているようです。オプティマイザ駆動の基底バイアスを認識することは、Transformerの内部構造の正確な理論的モデリングに不可欠であり、将来のアーキテクチャや学習アルゴリズムの設計に影響を与える可能性があります。