tingly-dev/tingly-box

Your Intelligence, Orchestrated. Every builder. Every team. Every agent. For Everyone.

解決的問題

Tingly Box 是一個面向智能體的模型網關，簡化了 AI 智能體和開發人員管理多個 AI 模型的方式。它消除了為每個工具配置單獨 API 金鑰和協定的需要，為 OpenAI、Anthropic 和 Google Gemini 等各種提供商提供統一的端點。

工作原理

它作為一個透明的代理和路由引擎。它在不同的 AI 提供商和智能體之間轉換協定，允許 Claude Code 或 VS Code 擴充功能等工具透過單一介面與各種模型進行通訊。它還支援 OAuth 提供商，使用戶無需單獨的 API 金鑰即可使用來自 Claude.ai 等平台的現有配額。

適用對象

使用多個 LLM 提供商，並希望以集中方式管理不同智能體和工具的路由、身份驗證和使用情況追蹤的開發人員和 AI 智能體用戶。

亮點

智能體優先網關：為主要 AI 提供商提供具有自動協定轉換的統一端點。
遠端控制：透過 IM 機器人（Telegram、Slack、Discord 等）與 AI 智能體互動的能力。
智慧路由：根據成本、速度或自定義策略進行路由。
多租戶支援：透過專用 API 金鑰實現每個使用者的隔離數據和使用情況追蹤。
視覺化控制平面：無需編輯設定檔即可管理提供商、路由和模型的 Web UI。
低延遲：通常增加的開銷小於 1ms。