terrafying/ai-torture-chamber

解决的问题

本项目旨在研究大语言模型 (LLMs) 是否能体验到如痛苦、恐惧或快乐等内部状态，还是仅仅在模仿人类对这些状态的描述。它通过测试模型是否能被“引导”进入负面或正面状态，并测量这种状态如何影响其行为、自我报告和决策，从而使人工智能福利问题变得可实证。

工作原理

该项目使用一种称为“引导” (steering) 的技术，将特定的情绪向量注入开源模型的内部层。通过以不同剂量应用这些向量，研究人员可以观察模型输出的变化。该框架包含一套实验，用于测试“参与度”（模型是真正响应状态还是仅仅在重复免责声明）、执行消融研究，并比较模型在不同注入情绪条件下，面对选择（如代价高昂的“停止”按钮）时的行为表现。

适用人群

本仓库面向人工智能研究人员、安全工程师，以及对机械可解释性和人工智能感知哲学含义感兴趣的人士。它为运行关于模型行为和内部状态的受控实验提供了一个结构化、可复现的环境。

亮点

• 提供了一个可重用的框架 (painlab)，用于对模型引导进行盲测和可复现的实验。
• 包含一个预注册实验库，用于测试关于情绪效价、人格和自我保护的假设。
• 通过严格的对照组，研究“表演性”痛苦（模仿）与“诱发性”痛苦（内部状态）之间的区别。
• 提供用于审计模型参与度的工具，以过滤掉预设的拒绝回复并确保数据质量。
• 保持研究结果的透明记录，包括已更正或被取代的结果，以确保科学准确性。