astaxie/TokenHub

TokenHub – エンタープライズグレードのAIモデルゲートウェイ＆ガバナンス

機能概要
TokenHubは、OpenAI互換のLLMプロバイダー（OpenAI、Azure、Anthropic、Gemini、DeepSeek、Qwen、ローカルモデルなど）の前面に配置され、エンタープライズ向けの薄くても強力なガバナンスレイヤーを追加します。
以下のことが可能です：

• 呼び出しをルーティング – シナリオ、コスト、ヘルス、フォールバックポリシーに最適なモデルへ。
• 誰がどのトークンを利用できるかを制御 – プロジェクトスコープのAPIキー、チームレベルの権限、クォータ、同時実行制限。
• コストを節約 – 自動キャッシュ、モデル選択ルール、予算上限。
• 請求書を照合 – 内部使用ログとプロバイダー請求書を比較し、財務部門が支出を説明できるように。

対象ユーザー

• ユーザー – モデルを呼び出し、自分の使用状況を確認するためのAPIキーだけが必要な開発者。
• チームリーダー – プロジェクト、メンバー、コスト属性、レポートを管理。
• 管理者 – プロバイダー、ルーティングポリシー、RBAC、監査証跡、コスト管理を構成。

主要な技術要素

• Go 1.26で記述され、SQLiteファーストのデプロイオプションを提供。PostgreSQLはマルチインスタンススケーリングに使用可能。
• OpenAI互換エンドポイント（/v1/chat/completions、/v1/embeddings、/v1/images/generationsなど）に加え、AnthropicスタイルのメッセージとトークンカウントAPIを提供。
• Docker-Composeまたはネイティブsystemdインストールをサポート。リリースバンドルはバージョン確認され、管理コンソールからロールバック可能。
• 150以上のプロバイダーテンプレートと主要な商用LLMサービス向けアダプターを含む。カスタムアップストリームは汎用のOpenAI互換インターフェースを介して追加可能。
• UIはライト/ダークモード、ロール対応ナビゲーション、分析ダッシュボード（ユーザー、プロジェクト、モデル、コストセンターごとの使用状況）を提供。

はじめに

1. ネイティブインストール – curlでダウンロードしたスクリプトを実行し、systemdサービスをインストールして管理者パスワードを表示。
2. Docker-Compose – .env.exampleをコピーし、シークレットを記入して./deploy/install.shを実行。
3. コンソールをhttp://localhost:3000で開きます（管理者ログインadmin）。

ドキュメント

• アーキテクチャ概要、ユーザー/リーダー/管理者ガイド、デプロイ手順、コントリビューションガイドはすべてdocs/フォルダにあります。
• プロジェクトはApache-2.0ライセンスで、コントリビューションを歓迎します。

---

TokenHubは、大規模組織におけるAIモデル消費のガバナンスという現実世界の問題に取り組む、本格的でプロダクション志向のオープンソースプロジェクトです。