tingly-dev/tingly-box

Your Intelligence, Orchestrated. Every builder. Every team. Every agent. For Everyone.

解决的问题

Tingly Box 是一个面向智能体的模型网关，简化了 AI 智能体和开发人员管理多个 AI 模型的方式。它消除了为每个工具配置单独 API 密钥和协议的需要，为 OpenAI、Anthropic 和 Google Gemini 等各种提供商提供统一的端点。

工作原理

它作为一个透明的代理和路由引擎。它在不同的 AI 提供商和智能体之间转换协议，允许 Claude Code 或 VS Code 扩展等工具通过单个接口与各种模型进行通信。它还支持 OAuth 提供商，使用户无需单独的 API 密钥即可使用来自 Claude.ai 等平台的现有配额。

适用对象

使用多个 LLM 提供商，并希望以集中方式管理不同智能体和工具的路由、身份验证和使用情况跟踪的开发人员和 AI 智能体用户。

亮点

智能体优先网关：为主要 AI 提供商提供具有自动协议转换的统一端点。
远程控制：通过 IM 机器人（Telegram、Slack、Discord 等）与 AI 智能体交互的能力。
智能路由：根据成本、速度或自定义策略路由请求。
多租户支持：通过专用 API 令牌实现每个用户的隔离数据和使用情况跟踪。
可视化控制平面：无需编辑配置文件即可管理提供商、路由和模型的 Web UI。
低延迟：通常增加的开销小于 1ms。