Asana 利用 GPT-6.1 Sol 优化浏览器代理成本

Asana 通过优化其在 GPT-6.1 Sol 上的工作流,将浏览器代理模型成本降低了 76 倍,执行速度提升了 5 倍。这一成果是通过使用 Codex 中的 GPT-6 Astra 自动化研究和实验过程实现的,将原本需要人类两个月的工作量缩短到了一周。

通过 GPT-6 Astra 实现自动化优化

Asana 利用 Codex 中的 GPT-6 Astra 来识别其浏览器代理代码库中的低效问题,并执行一系列受控实验。该过程包括映射代码库以了解模型请求的构建方式,并测试特定的架构更改以降低成本和延迟。

低效问题识别

GPT-6 Astra 在原始代理工作流中发现了两个主要瓶颈:

  • 缓存缺口:虽然固定指令和工具定义被缓存,但不断增长的页面文本和截图历史记录并未被缓存,导致每次请求都以全价重新发送整个历史记录。
  • 历史记录易变性:代理几乎在每一步都会频繁地裁剪文本和丢弃截图。这些持续的修改阻碍了有效缓存,有时还迫使代理重新访问已经读过的页面。

实验设计与执行

在识别出这些低效问题后,GPT-6 Astra 重构了代理代码,以支持具有独立设置的并行工作流。随后,它进行了一项包含 144 次运行的研究,测试了四种前沿模型(GPT-6.1 Sol 和其他三个标记为模型 A、B、C 的模型)在不同配置下的表现:

  • 历史记录预算:测试了 120,000 和 480,000 个字符的预算。
  • 缓存和截图策略:测试了六种不同的策略。最有效的策略允许截图累积到 20 张后重置为最新一张,这使历史记录在更长时间内保持稳定。

性能和成本基准

与原始生产环境中的模型 B 相比,GPT-6.1 Sol 上的优化工作流在成本和速度方面均表现出显著改进。

成本降低

  • 总体降低:GPT-6.1 Sol 上的优化工作流平均每次运行成本为 0.47 美元,而原始模型 B 设置至少为 36.21 美元(降低 76 倍)。
  • 模型特定收益:对于模型 B,仅优化一项就将成本从每次运行至少 36.21 美元降至 1.24 美元(降低 29 倍)。GPT-6.1 Sol 比优化后的模型 B 便宜 2.6 倍。
  • 缓存影响:在 GPT-6.1 Sol 上,新的缓存和截图策略将成本降低了 4 倍(从每次运行 1.97 美元降至 0.47 美元),其中 89% 的输入来自缓存,价格为未缓存价格的 5%。

速度和可靠性

  • 执行速度:模型 B 上的原始设置每次运行至少需要 22.5 分钟;GPT-6.1 Sol 上的优化工作流大约需要四分钟。
  • 成功率:将 GPT-6.1 Sol 的历史记录预算从较小的预算(18 次运行中成功 3 次)增加到较大的预算后,成功率提升至 18 次运行全部成功(100% 成功率)。

集成与未来发展

Asana 已将这些优化集成到 StackAI 中,并正在开发工具以使这些实验可重复。该公司还在利用 Codex 中的 GPT-6 Astra 进行预发布产品测试,代理会导航平台以向人工 QA 审核人员报告错误。

“这就是人类与代理团队在实践中的样子。工程师设定方向,GPT-6 Astra 运行实验,结果通过 Command 进入生产环境。”

— Arnab Bose,Asana 首席产品官

“交付速度不再是瓶颈;人类的注意力才是。我们正接近一个世界,每个工程师都是领导一支代理舰队的项目经理。”

— Frank Hidalgo,博士,StackAI 首席技术官,Asana

SUMMARY: Asana 通过使用 Codex 中的 GPT-6 Astra 为 GPT-6.1 Sol 优化工作流,将浏览器代理模型成本降低了 76 倍,速度提升了 5 倍。

TITLE: Asana 利用 GPT-6.1 Sol 优化浏览器代理成本

Sources