miuuyy/Astra-Ares

Adaptive reasoning effort for GPT-6 during Codex tasks, powered by Jev to reduce token usage.

解决的问题

Astra-Ares 通过根据当前任务步骤的复杂度动态调整“推理强度”,来减少使用高推理模型(如 GPT-6 Astra、Sol 和 Luna)时的 token 使用量与成本。它不会持续以高强度运行,而是将思考深度与下一次生成的需求精准匹配。

运作方式

它与修补过的 Codex CLI 版本集成,实现一个自适应循环。一个名为“Jev”的决策模型会分析当前任务上下文——包括目标、公开进度和最近的工具结果——来决定适当的推理强度(例如 LOW 到 HIGH),以及该设置应持续多少次后续生成(一个“租约”)。

由于 GPT-6 模型允许在不使缓存用的 prompt 前缀失效的情况下变更推理强度,Astra-Ares 可以在对话中途更新这些设置,同时维持缓存效率。系统直接与 OpenAI 通信,Jev 作为外部评估器,在特定检查点触发更新。

适用对象

使用 Codex 和 GPT-6 模型进行代理式任务的技术用户和开发者,希望通过自适应推理来优化 token 消耗与性能。

重点特色

  • 动态强度调整:根据任务的即时需求自动切换推理深度。
  • 租约系统:在重新评估前,将推理选择应用于固定次数的生成(1、2、5 或 10 次),以减少 API 开销。
  • 缓存保留:利用 GPT-6 原生能力,在不破坏 prompt 缓存重复使用的情况下变更强度。
  • 受限上下文:发送精选的任务数据子集(最多 28,000 个 token)给评估器,以维持决策效率。

相关

  • 项目
  • 项目
  • 项目
  • 项目