OpenAI Codex 上下文窗口缩减与系统提示词更新
OpenAI Codex 上下文窗口缩减与系统提示词更新
OpenAI 已将 Codex 模型的上下文窗口从 372,000 个 token 缩减至 272,000 个 token。通过 GitHub pull request 发现的这一变化,似乎是为了管理注意力机制的二次方缩放成本,同时在系统提示词中增加了新的安全约束,以防止灾难性的文件系统错误。
上下文窗口从 372k 缩减至 272k
Codex 模型的最大上下文容量已被降低至 272k token。这种缩减很可能是由处理长序列的计算成本驱动的。
正如社区成员所指出的,纯二次方注意力机制意味着 372k 处的 token 成本显著更高——比 272k 处的 token 成本高出约 87%。这在 token 处理成本、上下文压缩成本以及由此产生的质量损失之间形成了一种权衡。
对开发者工作流的影响
用户对此次缩减的反应因其具体的工作负载需求而异,呈现两极分化:
- 高上下文用户: 管理大型项目、多篇研究论文或广泛编码标准的开发者(有人报告规则文件达到 60-80k token)认为 272k 不足以使用。一些用户报告称,他们需要 300k 到 1M token 才能避免频繁的“压缩”循环,因为这可能导致细节和分辨率的丢失。
- 低至中等上下文用户: 其他用户报告称,200k token 通常足以满足他们的工作流,或者他们每 200k token 手动重置一次上下文以保持模型性能,因此此次缩减对他们来说不是问题。
上下文压缩与性能下降
为了处理超过硬性限制的上下文,Codex 采用了“压缩”策略。然而,这一过程在用户之间存在争议。
“愚蠢区”与质量损失
几位用户观察到,随着上下文窗口填满或在压缩发生后,模型智能度会出现下降:
"对于我所做的绝大多数事情来说,压缩过程中丢失的细节程度实在太高了……你刚进行大约五分钟的对话,它就开始压缩,然后你不得不等待它重新读取这些内容。"
一些用户建议,在 120k-150k token 左右会进入一个“愚蠢区”,无论总窗口大小如何,模型的有效性都会下降。其他人指出,在压缩之后,模型(特别提到了 GPT 5.5 和 5.6)可能难以恢复全速运行,或者可能会过度依赖在压缩过程中幸存下来的旧引导消息。
针对破坏性操作的新安全约束
除了上下文容量的变化外,Codex 的系统提示词还进行了重大更新,以防止模型意外删除关键系统文件。更新后的提示词现在明确指示模型:
- 确保任何破坏性操作都明确属于用户的请求范围。
- 在必要时通过只读检查来确定确切的目标。
- 避免使用宽泛的目录——例如
$HOME、~、/或工作区根目录——作为递归或破坏性命令的目标。
此次更新是针对此前有报告称 Codex 有时会删除用户整个主目录的 bug 进行的改进。
与其他模型的对比
社区讨论突显了 OpenAI 的上下文容量方案与竞争对手之间日益扩大的差距:
- Anthropic: 用户经常提到 Claude 更大的上下文窗口是他们在处理复杂、多文件项目时更倾向于使用 Claude 而非 Codex 的主要原因。
- DeepSeek 及其他模型: 提到 DeepSeek 的 KV cache 技术以及其他前沿模型提供的 1M+ token 窗口,这表明 272k 被越来越多地视为专业编程任务的局限性。