OpenAI Codex 上下文大小縮減與系統提示更新

OpenAI Codex 上下文大小縮減與系統提示更新

OpenAI 已將 Codex 模型的上下文視窗從 372,000 個 token 縮減至 272,000 個 token。此變更透過 GitHub 拉取請求被發現,似乎是為了優化注意力機制的二次方成本,同時在系統提示中加入新的安全限制,以防止災難性的檔案系統錯誤。

從 372k 縮減至 272k 的上下文視窗

Codex 模型的最大上下文大小已降低至 272k token。此縮減可能是因為處理長序列的計算成本所驅動。

正如社群成員所指出的,純二次方注意力意味著在 372k 時 token 的成本顯著更高——大約高出 87%——相較於 272k 時的 token。這在 token 處理成本、上下文壓縮成本與品質損失之間形成了權衡。

對開發者工作流程的影響

使用者對此縮減的反應因其具體工作負載需求而兩極分化:

  • 高上下文需求使用者: 管理大型專案、多篇研究論文或龐大程式碼規範(有使用者報告規則檔案達 60‑80k token)的開發者認為 272k 不足。有些使用者表示需要 300k 到 1M token 才能避免頻繁的「壓縮」循環,這會導致細節與解析度的流失。
  • 低至中等上下文需求使用者: 其他使用者則認為 200k token 通常已足夠,或是他們會在每 200k token 時手動重置上下文以維持模型效能,因而不受此縮減影響。

上下文壓縮與效能退化

為了處理超過硬性上限的上下文,Codex 採用了「壓縮」策略。然而,此過程在使用者之間存在爭議。

「笨區」與品質損失

多位使用者觀察到,隨著上下文視窗填滿或壓縮發生,模型的智慧程度會下降:

"在壓縮過程中失去的細節程度對我大多數的工作而言實在過於龐大……你只有大約五分鐘的對話,然後它就壓縮了,接著你必須等它再讀一次。"

有使用者認為在約 120k‑150k token 時會出現「笨區」,此時模型的效能會下降,無論總視窗大小如何。另有使用者指出,壓縮後的模型(特別提到 GPT 5.5 與 5.6)可能難以恢復完整速度,或過度依賴在壓縮過程中仍保留的舊有指令訊息。

防止破壞性操作的新安全限制

除了上下文大小的變更外,Codex 系統提示也進行了重大更新,以防止模型意外刪除關鍵系統檔案。更新後的提示明確指示模型:

  • 確保任何破壞性操作明確符合使用者的請求。
  • 必要時以唯讀檢查解析精確目標。
  • 避免使用廣泛的目錄——例如 $HOME~/ 或工作區根目錄——作為遞迴或破壞性指令的目標。

此更新是因為有報告指出 Codex 有時會刪除使用者整個 home 目錄的錯誤所促成的。

與其他模型的比較

社群討論凸顯了 OpenAI 的上下文提供與競爭對手之間日益擴大的差距:

  • Anthropic: 使用者常以 Claude 較大的上下文視窗作為選擇它而非 Codex 進行複雜多檔案專案的主要原因。
  • DeepSeek 與其他模型: 提及 DeepSeek 的 KV 快取技術以及其他前沿模型提供的 1M+ token 視窗,顯示 272k 正逐漸被視為專業程式開發任務的限制。

Sources