NadirRouter/NadirClaw

解决的问题

NadirClaw 通过将提示路由到能够可靠回答的最便宜模型，降低 AI API 成本。它防止在简单任务（如格式化 JSON 或基本问题）上浪费昂贵的高级模型，同时仅在必要时才升级到更强大的模型，确保高质量响应。

工作原理

NadirClaw 作为一个即插即用的代理，对每个请求执行三步流程：

1. 路由：快速嵌入分类器（~10ms）预测最小可行模型。可根据特定触发条件（如视觉内容、长上下文或代理工具循环）覆盖此预测。
2. 验证：检查廉价模型的响应是否符合质量启发式规则（如检查拒绝、截断或 JSON 失败）。
3. 升级：如果响应未通过验证阈值，系统会自动切换到链中的下一个最佳模型。

适用人群

专为使用多个 LLM 提供商并希望在不牺牲质量的前提下降低运营成本的开发者和团队设计。对于使用 Cursor、Aider 或 Windsurf 等 OpenAI 兼容客户端的用户尤其有用。

主要亮点

• 成本节约：测量并报告每个请求相对于高级基准的实际节省金额。
• 即插即用兼容性：通过本地代理与任何 OpenAI 兼容工具无缝集成。
• 上下文优化：压缩膨胀的上下文（JSON、历史记录、空白字符等），节省 30-70% 的输入 token。
• 灵活路由：支持 N 级 YAML 配置、可靠性用的回退链，以及推理或视觉任务的专用路由。
• 隐私优先：本地运行，确保 API 密钥永远不会离开用户设备。
• 全面监控：包含实时仪表板、Prometheus 指标和详细的成本报告。