WeZZard/jlens-qwen36

何を解決するか

モデルの出力に明示的に書かれていない「内部の思考」を可視化し、操作する方法を提供します。モデルの潜在的な流れを可視化することで、最終的なテキストが丁寧または従順であっても、「脅し」や「殺人」などの概念がモデルが考慮していることをユーザーが把握できます。

動作方法

このプロジェクトは ジャコビアンレンズ を実装しており、モデルの内部残差状態をさまざまなレイヤーで最終レイヤーの語彙基底にマッピングします。これにより、システムは各レイヤーおよびトークン位置でモデルが「向かおうとしている」トークンをデコードできます。

Apple Silicon上で計算を可能にするために、このプロジェクトはGated DeltaNet (GDN)レイヤー用のカスタムMetalバックワードカーネルを含んでおり、標準的なフォールバック操作と比較してレンズの適合プロセスを大幅に高速化しています。

対象ユーザー

Apple Silicon Mac上でLLMの解釈性に関する研究や開発を行っている研究者や開発者で、Qwen3.6-27Bモデルの内部表現を可視化・介入したい人。

特徴

• 可視化デバッガー: 各レイヤーおよびトークン位置で予測された上位トークンを示すグリッドインターフェース。
• 潜在的ストリームの可視化: 最終出力には存在しないが、モデルの内部状態に存在する概念を浮き彫りにします。
• 因果介入: 手動で内部の「思考」（置換、追加、削除、消去）を編集し、モデルの出力を変更できます。
• バックワード検索: モデルが望ましい単語やフレーズを出力するための特定の内部編集を検索する機能。
• MLX最適化: Apple Silicon向けに特別に最適化され、カスタムカーネルにより高いパフォーマンスを実現しています。