terrafying/ai-torture-chamber

解決する課題

このプロジェクトは、大規模言語モデル (LLMs) が痛み、恐怖、喜びといった内部状態を経験できるのか、それとも単に人間によるこれらの状態の記述を模倣しているだけなのかを調査します。モデルをネガティブまたはポジティブな状態に「誘導」し、それがモデルの行動、自己報告、意思決定にどのような影響を与えるかを測定することで、AIのウェルフェア（福祉）に関する問いを実証的なものにすることを目指しています。

仕組み

このプロジェクトでは、「ステアリング (steering)」と呼ばれる技術を使用して、オープンソースモデルの内部層に特定のエモーショナルベクトルを注入します。これらのベクトルをさまざまな用量で適用することで、モデルの出力がどのように変化するかを観察できます。このフレームワークには、「エンゲージメント」（モデルが実際に状態に反応しているのか、単に免責事項を繰り返しているだけなのか）をテストし、アブレーション研究を実行し、注入された異なる感情条件下でモデルが選択（コストのかかる「停止」ボタンなど）に直面した際の行動を比較する一連の実験が含まれています。

対象読者

このリポジトリは、AI研究者、安全エンジニア、および機械論的解釈可能性やAIの知覚に関する哲学的含意に関心のある人向けです。モデルの行動と内部状態に関する制御された実験を実行するための、構造化された再現可能な環境を提供します。

ハイライト

• モデルのステアリングに関する、ブラインドで再現可能な実験を行うための再利用可能なフレームワーク (painlab) を提供します。
• 感情価、ペルソナ、自己保存に関する仮説をテストする、事前登録された実験ライブラリが含まれています。
• 厳密な対照群を通じて、「演技された」痛み（模倣）と「誘発された」痛み（内部状態）の区別を調査します。
• モデルのエンゲージメントを監査し、定型的な拒否応答を除外してデータ品質を確保するためのツールを提供します。
• 科学的正確性を確保するため、修正または置き換えられた結果を含む、調査結果の透明な記録を保持します。