Oodle AI 代理可观测性发布 – 每百万跨度 $10

Oodle AI 代理可观测性发布 – 每百万跨度 $10

Oodle AI 推出代理可观测性，价格为 $10 / M span

要点： Oodle AI 现在提供专用的代理可观测性服务，将 100 % 的 LLM 代理追踪存储在基于 S3 的列式存储中，提供亚秒级查询延迟，并收取每百万跨度固定 $10 的费用——这种费用模型消除了每次查询的费用，使大规模调试变得负担得起。

为什么快速、低成本的追踪存储对 LLM 代理很重要

代理追踪体积大。 每条追踪包含提示、工具调用元数据和模型响应，往往每次对话就达到数兆字节。传统的 APM 工具难以应对这种量级，导致 搜索缓慢（分钟级）和 存储成本高。

代理会以非确定性方式失败。 静默的工具错误、不完整的工具调用链或 “我已经完成” 的信息如果没有完整的追踪保留就会被忽视。抽样不足，因为罕见的失败正是需要检测的。

Oodle 的解决方案同时解决了上述两个痛点：

  1. 将每个 span 存储 在兼容 S3 的对象存储中，可在数月甚至数年内保留，成本可预测。
  2. 使用列式、无服务器计算 实现 <1 s P99 查询延迟，把分钟级的调查转变为瞬时查询。

核心技术特性

1. 列式存储 & 无服务器查询引擎

"对追踪的快速搜索 – 列式存储，无服务器计算 – 在秒级而非分钟内找到追踪。"

Oodle 重写了存储引擎的部分代码（见下方工程博客链接），将 span 以类似 parquet 的格式存储，针对读密集型工作负载进行优化。此设计实现了：

  • 向量化扫描，跳过无关列，降低 I/O。
  • 弹性扩展，无需预置专用查询节点。

2. 基于 S3 的统一计费

"$10 / 百万跨度 – 存储 100 % 的追踪，同时保持预算可控。"

计费基于 摄入字节数 和 保留天数。典型工作负载为 1.2 TB/月，摄入费用 $360，90 天保留费用 $2，总计 $362/月，查询次数不限。

3. 开箱即用的 AI 洞察

"在你编写任何评估之前，检测用户挫败感、工具调用优化、异常。"

内置分析会自动呈现：

  • 错误恢复失败（未处理异常、工具调用不完整）
  • 高时长追踪（卡死循环、重试风暴）
  • 低用户满意度（负面情感分数）
  • 模型成本低效（更便宜的模型替代方案）
  • 缓存低效 与 过多的 LLM 回合

这些洞察无需自定义规则配置。

实际采用情况

Oodle 列举了多家生产客户，每天处理 300 万+ 代理追踪，且 不做抽样。值得关注的案例包括：

  • Fello – 语音 AI 平台，检测每日数百万交互中的静默失败。
  • Cureskin、HappyPath、Wisdom AI、Fuel、Lookout、Zaggle、CureFit、Distacart、Workorb、Effective AI、different.ai、Labra、Bedrockdata – 均在产品页面列为使用 Oodle 进行可观测性的工程团队。

"300 万+ 代理追踪/天。零抽样。捕获语音 AI 代理的静默失败。" – Fello 案例研究

如何快速上手

  1. 使用 OpenTelemetry 进行仪表化 – Oodle 采用标准 OTLP 追踪并遵循生成式 AI 语义约定；无需自定义 SDK。
  2. 将 span 发送至 Oodle – 将现有导出器指向提供的端点。
  3. 在 UI 中探索 – 即时查询追踪，查看对话回放，运行评估流水线，并利用 AI 驱动的洞察。

免费层无需信用卡，平台承诺 15 分钟内完成入门。

来自 Hacker News 的社区反馈

  • 价格担忧： 有评论者指出其当前供应商费用为 $0.75 / M，认为 Oodle 的 $10 / M “太贵”。
  • 技术好奇： 另一位问为何 Oodle 使用 “类似 parquet” 的格式而不是原生 Parquet。
  • 开发者解答： Oodle 工程师 Vijay Karthik 回答说，构建代理追踪支持迫使他们重新设计存储引擎，并链接了博客文章 How We Achieved $10/Million Agent Spans。
  • 正面评价： 用户赞扬 Oodle 的速度和 “业界最佳 MCP”，并对评估失败模式表示期待。

进一步阅读

  • 工程博客： How We Achieved $10/Million Agent Spans – 详细阐述存储架构和成本优化。
  • 可观测性博客： You Can’t Sample Your Way to Reliable Agents – 讨论完整追踪保留的必要性。
  • 架构博客： How Oodle Keeps Observability Fast at Scale – 探索无服务器查询设计。

结论： Oodle AI 的代理可观测性服务提供了专为大规模存储和查询 LLM 代理追踪而构建的低成本平台，实现亚秒级搜索和自动故障检测，无需额外的 APM 工具复杂性。

Sources