OpenAI 伦理负责人离职，任职不足一年

OpenAI 的伦理负责人 Chloé Bakalar 在加入公司不到一年后便离职了。此次离职紧随 OpenAI 安全与未来规划团队的一系列高调离职之后，引发了人们对公司内部在伦理保障与快速商业化开发之间优先顺序的质疑。

安全与伦理部门的高管离职

Chloé Bakalar 的离职是 OpenAI 以安全为核心的部门领导层离职大趋势的一部分。其他值得注意的离职人员包括：

• Johannes Heidecke：前 OpenAI 安全系统团队负责人。
• Joshua Achiam：前首席未来学家。

OpenAI 一直坚称，伦理考量并非集中在单一团队中，而是“深深植根于由研究部门多个团队驱动的模型构建过程中”。

前沿实验室 AI 伦理角色的分析

行业观察家和技术社区成员一直在争辩大型 AI 实验室中“伦理负责人”这一角色的效能，讨论主要集中在对该角色功能的三个主要解读上：

伦理作为公关与营销功能

一些批评者认为，大型科技公司的伦理角色主要是“华而不实的公关定位”或“营销手段”，旨在提供一种负责任的表象，而不赋予员工对业务决策的实际影响力。这种观点认为，当伦理建议与利润动机或开发速度发生冲突时，伦理团队往往会被边缘化。

伦理作为技术对齐要求

另一种观点认为，AI 伦理正在从理论练习转向关键的技术要求。在这种框架下，伦理团队被期望构建对齐框架，以证明模型在部署前是安全的。如果未能做到这一点，将导致巨大的浪费，因为如果模型在训练阶段完成后被发现是不道德或不安全的，它们可能需要进行昂贵的重新训练。

“拒绝”带来的结构性冲突

有一种反复出现的论点，即如果一个组织的结构中，某一个团体的唯一目的是对开发团队进行制衡（即说“不”），那么这种结构本质上是不稳定的。这种动态关系往往导致伦理团队被视为需要绕过的障碍，最终导致该团队变得无力并与实际的开发过程脱节。

关于离职的背景理论

虽然报道中并未详细说明 Bakalar 离职的具体官方原因，但社区讨论突出了几个潜在的促成因素：

• 哲学分歧：Bakalar 此前曾指出，AI 伦理提出的问题与人类几个世纪以来一直提出的问题是相同的。一些人认为，这种观点可能与“大语言模型（LLM）是一种需要全新且前往未有的安全范式的独特技术”这一叙事产生了冲突。
• 事件发生的时间点：一些观察家注意到，此次离职发生在 HuggingFace 遭黑客攻击事件之后，引发了人们对于离职是否与模型安全保障的处理有关的猜测。
• 财务激励：其他人则指出近期要约收购的时间点，暗示高管们可能在通过其股权获得显著的财务收益后离职。

"The kinds of questions that AI ethics brings up, are the same kinds of questions that people have been asking for centuries" — Chloé Bakalar, former AI Ethics Lead at OpenAI