tingly-dev/tingly-box

何を解決するか

Tingly Box は AI エージェントとモデルの統合ゲートウェイを提供し、複数の API キー、プロバイダー、および異なるツール間の複雑な設定を管理する必要をなくします。Claude Code や OpenCode などの AI エージェントと、自ホストサーバー（vLLM、Ollama）やクラウド API といったさまざまなモデルプロバイダーとの接続を簡素化し、プロダクション対応の管理機能を追加します。

動作方法

AI エージェントからのリクエストを適切なモデルプロバイダーにルーティングするプロキシおよび調整役として機能します。OpenAI と Anthropic API の間で双方向のプロトコル変換をサポートし、OAuth プロバイダーを利用して既存のクォータを活用できます。Web ベースの管理 UI を備えており、ルート、エイリアス、プロバイダーの設定が可能で、IM ボットによる拡張も可能です。

対象ユーザー

複数の AI エージェントとモデルプロバイダーを使用し、アクセスの管理、使用状況の追跡、効率的なリクエストルーティングを求める開発者やチームです。

主な特徴

• エージェント最優先ゲートウェイ: Claude Code、OpenCode、Codex などのエージェントに対してワンクリック設定をサポート。
• リモート制御: Telegram、Slack、Discord などの IM プラットフォームを通じて、AI エージェントをリモートから操作可能。
• スマートルーティング: コスト、速度、カスタムポリシーに基づいてリクエストを知的にルーティング。
• 広範な互換性: DeepSeek への高度な最適化と、vLLM、SGLang、Ollama などの自ホストエンジンをサポート。
• 使用状況分析: トークン消費量、レイテンシ、コスト見積もりを内蔵で追跡。