Armature: Agentic Sessions 的产品分析工具

Armature 是一个专门为 Agentic Sessions 设计的产品分析平台。与追踪 UI 点击的传统分析工具不同,Armature 通过 Model Context Protocol (MCP)、Claude Connectors 或 ChatGPT Apps 捕获 AI Agent(例如 Claude、ChatGPT 或 Cursor 中的 Agent)与产品后端之间的交互。

Agentic 产品管理的核心能力

Armature 让产品团队能够超越原始日志,深入了解 AI Agent 实际上是如何利用其服务的。该平台提供几个核心功能来优化 Agent 体验:

自动化用例识别

Armature 使用模型来分析每个 Session,并自动将其分组为不同的用例。这使得团队能够识别用户尝试执行的最常见任务,包括识别“缺失”的功能——即用户尝试执行但产品尚未支持的用例。

Agent 失败的根因分析

该平台会扫描 Session 以查找失败、循环和死胡同。即使在 API 响应返回 200 OK 状态时,它也能识别根因,因为它意识到技术上的成功响应仍可能导致无法满足用户的意图。

Session 回放与评分

每个 Session 都会根据用户请求是否得到满足而分配一个成功分数。团队可以回放 Session 的完整追踪过程,包括初始用户意图、Agent 的内部思考过程以及 Session 期间进行的每一次 API 调用。

技术实现与集成

集成是通过一个封装了现有 MCP servers、Claude Connectors 或 ChatGPT App 后端的 SDK 实现的。这种实现方式不需要对现有服务器逻辑进行任何更改,并且与任何可以访问 MCP server 的客户端兼容,包括 Claude、ChatGPT、Cursor、Codex 和 Gemini CLI。

数据隐私与 PII 脱敏

为了处理敏感信息,Armature 采用检测模型来扫描 Session,并在数据存储之前默认对个人身份信息 (PII) 和密钥进行脱敏处理。

与现有工具的对比

Armature 通过其目标受众和用户关注点,将其与传统分析工具和 LLM 观测性工具区分开来:

Tool Category Focus Armature's Approach
Traditional Analytics (e.g., PostHog, Amplitude) Human UI interactions (clicks, events) Captures sessions happening inside AI clients (Claude, ChatGPT) where the product's UI is invisible.
LLM Observability (e.g., LangSmith, Langfuse) Engineering-focused traces for agents built by the developer Focuses on product management for agents that use the product via external clients.

社区反馈与考量

Hacker News 上的社区成员就实现方式提出了几个技术和合规性问题:

"How is it actually getting the model's thoughts? ... If im already logging MCP calls with OpenTelementry or BrainFuse why would i need Armature?"

用户还指出了 LLM 的非确定性特征,这使得对于构建仅基于 MCP 产品的开发者来说,Agentic Sessions 的可见性变得至关重要。

此外,也有人对该工具是否符合 OpenAI 和 Anthropic 的遥测和数据收集条款提出了疑虑,特别是涉及聊天数据和当前对话的遥测信息。

Sources

相关

  • 项目
  • Dispatch
  • 项目
  • 项目
  • Dispatch