Lucid Web Tool が言語モデルの回答前の思考を可視化・編集できるようにします
Lucid Web Tool が言語モデルの回答前の思考を可視化・編集できるようにします
Lucid は言語モデルが回答する前に考えている様子を観察できます
要点: Lucid はウェブベースのツールで、Jacobian ベースの「レンズ」を用いて、言語モデルが出力を生成する前に層ごとに活性化する内部概念を可視化します。これにより、モデルの隠れた推論プロセスを観測・編集できるようになります。
Lucid の機能
Lucid はブラウザ上に Jacobian レンズ を配置します。ユーザーがプロンプトを入力すると、レンズはモデルの各隠れ層から上位概念を抽出し、カードの形で表示します。カードは、モデルの内部「ワークスペース」（Anthropic が呼ぶ J‑space）に入る概念と、最終的な回答に現れずに隠れたままの概念を示します。
"Lucid は言語モデルの思考を観察します。Jacobian レンズを使って、モデルが話す前に保持している概念を層ごとに読み取ります。" – Lucid ホームページ
Jacobian レンズの仕組み
Jacobian レンズは、モデルの出力ロジットに対する隠れ状態活性化の微分を計算します。これにより、初期層と後期層の間で生じる基底シフトを補正し、単純なロジットレンズが固定基底を前提とするのとは異なります。その結果、内部概念と最終出力との対応がより忠実にマッピングされます。
"Jacobian 行列は、初期層から最終層への基底シフトを補正します。これは、残差が層間で同じ基底に留まると仮定するロジットレンズとは異なります。" – @krackers のコメント
対応モデルとコスト
Lucid は現在、Qwen 0.5B–3B や Pythia 1.4B といった小規模なオープンソースモデルで動作します。レンズはモデルごとに一度だけフィットさせればよく、各読み取りは単一のフォワードパスで済むため、コストは非常に低く抑えられます。
ユーザーのワークフロー
- プロンプトを入力 – モデルに尋ねたい任意のテキスト。
- カードを観察 – 各カードは特定の層とトークン位置に対する上位概念を示し、"ピン留め"されたトークンのランク変化も追跡します。
- 必要に応じて編集 – インターフェース上で内部表現を変更し、モデルが回答を生成する前に調整できます。
- エクスポート – すべてのセッションは共有可能な "スライス" ページとして保存でき、後で分析可能です。
アカウントやインストールは不要で、ツールは完全にブラウザ上で動作します。
回答前フェーズが重要な理由
テキストを生成する前のモデル内部の推論に注目することは、単にシステムプロンプトを調整するだけよりも実用的なアラインメント手段となります。モデルが何を考えているか を見ることで、隠れたバイアスや誤概念を早期に発見できます。
"回答前の思考フェーズに焦点を当てている点が好きです。汎用的なシステムプロンプトで出力を誘導しようとするより、はるかに実用的に感じます。" – @mune2gu‑chan のコメント
Earthpilot Laboratory の関連プロジェクト
- Personality Bench – フロンティアモデルに対して性格テストを実行し、モデル挙動への別の視点を提供するサイト（https://persona.earthpilot.ai）。
"我々のラボからもう一つ、Personality Bench があります: https://persona.earthpilot.ai こちらはすべてのフロンティアモデルに性格テストを実行します。" – @ada1981 のコメント
始め方
https://lucid.earthpilot.ai にアクセスし、explore または write をクリックして、心に尋ねたい質問を入力してください。インターフェースは概念カードの変化を表示し、任意の用語の説明を求めることができる "docent" チャットボットと対話できます。
結論: Lucid は、言語モデルの隠れたワークスペースを手軽に覗き見る低コストな手段を提供し、研究者・開発者・好奇心旺盛なユーザーがモデルの回答前推論を透明化・操作可能にします。