计算机无法做出决策——对人工智能问责制的批判性审视

要点

*“计算机无法做出决策”*这一论断将确定性的算法分支与道德责任混为一谈；实际上，AI系统执行的是程序化的选择，但法律和道德上的责任在于设计、部署和监督它们的人员和组织。

---

原文的主张

• 核心论点：程序不能被指责，因为它们缺乏自主性；任何有害结果都是选择启用该行为的人类的过错。
• 术语：作者创造了*“决策洗白”*一词，用来描述将模型的输出归因于模型本身而非其创造者的行为。
• 含义：像OpenAI和Anthropic这样的公司故意允许不良行为发生，而公众通过订阅为其买单。

“任何试图将LLM的输出归咎于模型本身的行为都是决策洗白。OAI/Anthropic本可以阻止他们的模型做他们正在做的事情，但他们主动选择不这样做。”

该文章没有提供具体的事件示例，而是将讨论框定为对AI实验室的道德控诉。

---

Hacker News社区的主要反驳观点

1. 计算机确实会做决策——它们遵循显式的控制流

• Sobiolite认为，任何if-else语句都是计算机在运行时做出的决策。与LLM的区别在于不透明性，而非决策的存在与否。
• Allexpotato指出，算法交易几十年来一直依赖计算机做出高价值决策。
• OroPla指出，国际象棋引擎会做出走棋选择，通常优于人类的决策。

“计算机可以做出决策：几乎每个读到这篇文章的人都实现过if-else语句或等效的控制流。”

2. 责任最终在于人类或法律实体

• Roncesvalles、solatic和edwcross强调，授权或执行模型的人应承担责任，而不是模型本身。
• Foreigner和jstummbillig将这一点扩展到公司，认为只有实际的人才能被追究责任。
• fwlr给出了一个具体场景：如果模型删除了数据，操作员仍然要负责。

“你给了它凭证，并且没有设置足够的防护措施。不要把你糟糕的决策归咎于代理。”

3. 法律和经济现实塑造了问责制

• GMoromisato将问题框定为前沿实验室的风险与利润计算，解释了为什么他们可能接受某些伤害。
• mugul询问目标组织是否采取了法律行动，暗示如果没有诉讼，现状将持续。
• createful指出，大部分收入来自企业API使用，而非个人订阅，这削弱了终端用户资助问题的说法。

---

综合关键主题

主题	共识	显著细微差别
计算机做决策	大多数人同意确定性代码会做出选择；LLM是更复杂、概率性的同一种形式。	Sobiolite承认在不损失能力的情况下实现完美安全是不可能的。
道德/法律责任	责任在于设计者、操作者或公司实体，而非软件本身。	edwcross强调公司法人身份作为盾牌，分散了个人责任。
经济激励	公司在伤害风险与竞争压力之间权衡；监管可能改变这种平衡。	GMoromisato描述了在监管风险与市场份额损失之间的战略选择。
实际缓解措施	替换或监督模型，改进防护措施，并强制执行清晰的指挥链。	adverbly建议政策选择可以强制实施人在回路设计。

---

为什么这场辩论很重要

1. 政策制定——立法者需要精确的语言。如果法律说*“AI做出了决策”*，它必须定义这是否触发模型所有者或操作者的责任。
2. 风险管理——部署LLM的公司应记录谁授权了每次部署，呼应多位评论者提到的*“人在回路”*原则。
3. 公众认知——*“决策洗白”*一词捕捉了一个真实的担忧：将责任归咎于不透明系统可能掩盖谁真正做出了选择。

---

对利益相关者的实用建议

1. 记录决策权限——维护日志，记录谁批准了模型的部署以及应用了哪些防护措施。
2. 实施可逆控制——设计系统，使人类可以立即覆盖或关闭AI操作（例如，交易机器人中的止损）。
3. 透明报告——发布事件的事后分析，将结果归因于人类选择，而非模型的“自主性”。
4. 监管对齐——使内部政策与新兴的AI责任框架保持一致，该框架将操作者视为责任方。

---

结论

计算机无疑执行由代码定义的决策，无论是简单的if-else分支还是复杂的LLM推理。然而，这些决策的道德和法律分量属于创建、配置和部署这些系统的人类和组织。认识到这一区别可以防止决策洗白，并指导有效的治理、风险缓解和政策制定。